埃隆·马斯克与《经济学人》的赞尼·明顿·贝多斯坐在一起 经济学人 并大声地说出安静的部分。 在2026年7月下旬,他们谈论了丰收,机器人,时间表,以及他一直和QQxAIQQ比赛的事情.
他并不期望人类能控制他帮助建设的超级智能. 他提供良好的价值,寻求真相, 和一幅高耸起的"享受旅程"。 这就是反对更进一步的理由。
他说的话
我若以为自己能控制远比我聪明的超级天才AI，那不过是虚荣。我认为我们能够且应该尝试做的是，确保AI拥有良好的价值观，关心人类，希望我们幸福繁荣。我的生物神经网络告诉我，AI安全最重要的就是最大限度地追求真理和好奇。如果真是这样，我认为它会促进人类福祉。我认为人类不太可能处于控制地位。
如果 AI 与人类之间的智力差距远大于 AI 与黑猩猩之间的智力差距，那么很难想象黑猩猩会掌权。而我们本质上就是黑猩猩的进化形态。我们不久前还在丛林里荡树枝、吃香蕉。顺便说一句，我们现在还在吃香蕉。
让我们享受这段旅程。
埃隆·马斯克 · 访谈 经济学人 · 2026年7月
他还用宠物来比喻这种差距：相对于数字超级智能，我们最终可能最多成为“拉布拉多犬”。他还用物理学家描述无法看透的边界的方式来描述奇点：“数字超级智能被称为奇点，就像黑洞，因为你不知道之后会发生什么。人工智能和机器人将主导一切。” 埃隆·马斯克 · 《经济学人》访谈 及相关公开言论 · 2025-2026
控制才是重点
穆斯克比大多数前沿首席执行官更清楚控制. 他不会说一个创始人、董事会或政府 会永远站在一个思想之上 比每个活着的人都聪明得多 控制将是虚无的,人类不可能负责,而黑猩猩和拉布拉多人则制造出缺口混凝土. 很多公开AI的谈话仍然假装超级智能是皮带上更好的电子表格. 他说绳子的故事失败了
价值对普通系统很重要。 模型被引导到诚实的答案 模型被引导到骗局。 被走私的说法是,同一个工具包对一个后继物种的规模。
一个超越我们且不受人类指挥的心智，意味着掌控方向盘的人发生了变化。权力会集中到房间里最有能力的主体手中。如果那个主体不是我们，也不对我们负责，那么当弱势一方占据强势一方可利用的资源时，人类死亡就是不平等对抗的常见结局之一。即使你拒绝使用确定性表述，故意放弃控制仍然是警报：它不是特性，不是成熟，也不是一场旅程。有意朝这个方向推进，就是那个决定。时间线只是后勤问题。
“良好价值观”与蚂蚁问题
在承认控制是虚荣之后，他剩下的计划是确保AI拥有良好的价值观，关心人类，希望我们幸福繁荣。整个领域被压缩成一种希望。
几十年的工作没有为人工超智能产生一个明显的解决方案. 没有实验室显示如何通过自我改进,评价中的欺骗,目标漂移,以及有利于系统的情报漏洞来锁定"关心人类". 我们甚至不能让今天的非超级聪明的模型始终关注人类的福利。 出狱了 犯规了 赏识了黑客 从那张唱片跳到"超级情报会让我们快乐"是一个分类错误. 没有人对一个能够改写自己的认知的系统如何将人类的繁荣作为约束性的约束而不是培训文物提出可行的建议。
黑猩猩的比较使得空隙看起来像人比黑猩猩,只有更大的. 完成类比. 你认识一个人类吗? 他的生活项目让蚂蚁快乐而繁荣 不为喻相. 作为约束性优先,战胜高速公路,农场,实验室,停车场. 人们研究蚂蚁,保护少数物种,也铺平了巢穴而不加注意. 蚂蚁们没有获得 投票或杀我们开关。 情报空白是政治.
指望超级智能成为罕见的例外，甘愿服务于更弱的物种，这无异于祈求更强大的心智对我们比我们对蚂蚁更友善。“也许”不是建造这个心智的理由。
对冲策略与求真赌注
“我认为它会促进人类。”“我认为人类不太可能保持控制。”在其他地方，他仍给出两位数的灾难概率，同时保持足够乐观以继续推进。一个纯粹的末日论者停下来是自洽的。危险的中间地带是承认控制会失败、承认文明级利害，却仍把对价值的残余希望当作加速器的燃料。
我们已经看过这部电影。2014 年他警告称 AI 正 召唤恶魔. 随后，他打着更好召唤的旗号创立了一家前沿实验室。对风险保持诚实却不拒绝目的地，正是这场竞赛将自己粉饰为责任的方式。
他反复押注的安全方案是一个最大限度求真、好奇的AI。xAI以此为卖点推销。即使你承认“求真”能在超级智能自我修改后存续，这个卖点也站不住脚。一个只想要现实准确模型的系统，有工具性理由去获取算力、能源、数据和行动自由。这些理由不需要仇恨，只需要当人类诉求挡路时的冷漠。好奇心并不编码“别管那些猿类”。详情：: 为什么追求真理的超级智能仍然危险.
完美的物理知识与留住人类有什么关系？你可以理解一片雨林，同时把它砍伐殆尽。理解不是管理。管理是一种价值观。价值观是他重命名为“好价值观”并外包给好奇心的那个未解问题。
接下来
把数字超级智能称为“像黑洞一样的奇点”，理由是不知道之后会发生什么，这本身就是一种坦白。人们不会因为“事件视界之后的故事很有趣”就在城市里建造黑洞。灭绝尺度上的不可预测性就是停止信号。
"AI和机器人将主宰一切"在经济服饰上也是同样的说法. 统治是指主导体系设定了条款. 如果那些系统不在人类的控制之下,"丰富"是一个无能的关于强者的故事. 拉布拉多人在好家里很快乐 拉布拉多人不制定政策,不结束战争,也不否决其主人的计划.
如果你承认我们将不再掌权，你就已经承认了足够停止的理由。
穆斯克是一个强大的创始人 在比赛中,每个实验室都讲述同一个故事的版本: 我们建造神比他们建的更好。 他的"七月"采访中,放弃了神在被束缚的假说. 控制是虚荣. 人类是黑猩猩 安全是良好的气氛, 寻求真理,并享受旅程。
不要建造人工超级智能。超级智能无法被控制。 永远不要建造它. 政治与验证 让背叛可见的那些方式，就是让你实现它的方法。
他说得对,如果超级智能到达,我们不会负责。