我相信，总有一天，凭借2026年我们尚未掌握的更多物理学知识，我们或许能控制引力、打开虫洞，甚至超越光速。以现有知识而言，这些事不可能。我仍认为我们对可知之物的探索才刚刚开始。我将其视为对我们科学仍如此年轻的现实主义态度。
一个我一直无法理解的未来,不管我翻过多久,也不管我和多少人谈过:对一个比我们更聪明的实体的持久控制。 生物或机械 从此等地出. 如果另一个思想比人类聪明,我看不出我们如何控制它。
记分牌
上面刻有粗略的数字 这样形状很难躲避 唤作全人类的全部知识和技能,同心协力,100. 普通人拿着一小片
现在想象一下我们如何完美地执行: 每一个相关的人类,实验室和政府, 没有浪费和拖延。 我们把满100块放在桌上
给另一方更高的上限。假设其最大值为200。它甚至不需要状态良好。以51%的效率仍能超过102。它在半睡半醒中就能击败完美的人类总分。
在人类战争中,一方往往只需要在情报,后勤,或武器方面微弱的优势就能锁定决定性的胜利. 微薄的边缘作为总的结果而结束 那么,我们如何战胜比我们聪明得多的东西,而不是一个接近同龄人?
较弱的政党为较强的政党写道,
物理不是对手
当我说有一天我们可以控制地心引力时,有些人会听到一种一般的信念,即困难的问题会产生。 有些难题确实存在。 军队和物资不是特工 他们不围绕你的计划 或隐藏策略 因为他们模拟了你的测试。 扩展物理还很困难。 裁定一个超越统治者的思维 是一种不同的困难。
在所有我们知道的持久案例中，控制都依赖一条边缘：武力、法律、保密、关机开关，或对方未能成功反制。超级智能正是故意抹除这条边缘的项目。你试图监督一个最终会在监督、找漏洞、察觉你想拔插头等方面打败你的玩家。
我听到了充满希望的版本。 我们将与它一起成长,合并,以爱来养育它,或者把它保存在一个盒子里,直到我们确定. 每个版本仍然假定较弱的一方为较强的一方设定了持久的条件。 我可以钦佩这一愿望,但并非基于现实的愿望。
基金会为何存在
如果无法看到控制,请不要建造需要它的东西. 保留工具的狭窄工具可以不断使医学,科学和工业变得更好. 台词是人工超智能:一种将我们超越了全局,不再由人类指挥的通灵.
我创立中田基金会，是因为这条线正被当作工程进度表，而非物种的停止标志。实验室在赛跑，政府在谈论获胜。安全工作常常预设目的地，却只想减轻撞击。撞击本身才是问题。 你无法通过对齐跨越智能差距 你定义的存在。
我认为,我们能够继续存在到光明的未来,这样做的第一步是集体决定不建立一个我们无法控制的实体。