超级智能无法被控制：从可计算性理论得到的启示

超级智能是一种假想的智能体，它的智能远远超过了最聪明和最有才华的人类。随着机器智能的进步，许多科学家、哲学家和技术专家重新探讨了这种实体可能带来的潜在灾难性风险。如何防止超级智能对人类造成伤害，或者至少限制它的行为，是一个亟待解决的问题。

然而，一篇最近发表在《人工智能研究杂志》上的论文，却提出了一个令人震惊的观点：超级智能是无法被完全控制的，这是由计算本身的基本限制所决定的。论文的作者们从可计算性理论出发，分析了几种常见的超级智能控制策略，如盒子化、激励对齐、逻辑限制等，指出了它们都存在着不可克服的缺陷。