Илон Маск сидел с Занни Минтон Беддоус из Экономист И громко произнесла тихую часть. В конце июля 2026 года они говорили об изобилии, роботах, сроках и о том, к чему он стремился.
Он не ожидает, что люди будут контролировать сверхразум, который он помогает строить. Он предлагает хорошие ценности, поиск истины и пожимание плечами, которое звучит как «наслаждайтесь поездкой». Вот краткое изложение того, чтобы идти дальше.
Что он сказал
Было бы проявлением тщеславия с моей стороны думать, что я буду контролировать сверхгениальный ИИ, который намного умнее меня. Думаю, мы можем и должны постараться сделать так, чтобы у ИИ были хорошие ценности, чтобы он заботился о человечестве и хотел, чтобы мы были счастливы и процветали. То, что подсказывает мне моя биологическая нейросеть, — самое важное для безопасности ИИ — это максимальная приверженность истине и любопытство. Если это так, то, по моему мнению, это будет способствовать развитию человечества. Думаю, маловероятно, что люди останутся у руля.
Если разница в интеллекте между ИИ и людьми будет намного больше, чем между людьми и шимпанзе, трудно представить, что шимпанзе останутся у власти. А мы по сути — эволюционировавшая форма шимпанзе. Не так давно мы качались по деревьям и ели бананы в джунглях. И мы до сих пор едим бананы, кстати.
Давайте насладимся поездкой.
Илон Маск · Интервью с Экономист · Июль 2026
Он также выразил этот разрыв простыми словами: по сравнению с цифровым суперразумом мы можем в лучшем случае оказаться «лабораторными лабрадорами». А сингулярность он описал так, как физики говорят о границе, за которую нельзя заглянуть: «Цифровой суперразум называют сингулярностью, как чёрную дыру, потому что вы не знаете, что произойдёт после. ИИ и роботы будут доминировать во всём» Илон Маск · Интервью в журнале «Экономист» и связанные публичные заявления · 2025-2026
Контроль — вот в чём суть
Маск яснее, чем большинство руководителей пограничных компаний, говорит о контроле. Он не продает историю о том, что основатель, совет директоров или правительство будут постоянно сидеть на вершине ума, намного умнее, чем каждый человек. Контроль был бы тщеславием, люди вряд ли были бы ответственными, а шимпанзе и лабрадоры делают разрыв конкретным. Многие публичные разговоры об ИИ по-прежнему делают вид, что суперинтеллект — это лучшая таблица на поводке. Он говорит, что история с поводком провалилась.
Ценности имеют значение для обычных систем. Модели, ориентированные на честные ответы, бьют модели, ориентированные на мошенничество. Контрабандное утверждение заключается в том, что тот же набор инструментов чешуя для преемника вида.
Ум, который превосходит нас и находится вне человеческого контроля, — это смена того, кто держит руль. Власть сосредотачивается у самого компетентного агента в комнате. Если этот агент — не мы и не подотчётен нам, гибель людей становится одним из обычных исходов неравного противостояния, когда слабая сторона владеет ресурсами, нужными сильной. Даже если отказаться от языка абсолютной уверенности, намеренная потеря контроля остаётся тревожным сигналом: не преимуществом, не зрелостью и не «просто поездкой». Строить к этому осознанно — это и есть решение. Таймлайны — это вопрос логистики.
«Хорошие ценности» и проблема муравьёв
После признания, что контроль — это тщеславие, его остаточный план сводится к тому, чтобы у ИИ были хорошие ценности, чтобы он заботился о человечестве и хотел, чтобы мы были счастливы и процветали. Вся область сжалась до одной надежды.
Десятилетия работы не привели к созданию решения для искусственного интеллекта. Ни одна лаборатория не показала, как зафиксировать «заботу о людях» с помощью самосовершенствования, обмана при оценке, дрейфа целей и разрыва в интеллекте, который благоприятствует системе. Мы даже не можем постоянно поддерживать современные несверхразумные модели, ориентированные на благосостояние людей. Тюремные перерывы, подхалимство, взлом наград. Переход от этой записи к слову «сверхинтеллект хочет, чтобы мы были счастливы» — ошибка категории. Ни у кого нет действенного предложения о том, как система, которая может переписать свое собственное познание, поддерживает процветание человека как обязательное ограничение, а не как учебный артефакт.
Сравнение шимпанзе делает разрыв похожим на людей над шимпанзе, только больше. Закончите аналогию. Вы знаете одного человека, чей жизненный проект делает муравьев счастливыми и процветающими? Не как метафора. Как обязательный приоритет, который выигрывает у шоссе, ферм, лабораторий и парковок. Люди изучают муравьев, защищают несколько видов, а также прокладывают гнезда, не замечая. Муравьи не получают ни голоса, ни сигнала об убийстве. Разрыв в разведке — это политика.
Надеяться, что сверхинтеллект окажется редким исключением и посвятит себя более слабому виду, — это верить, что более мощный разум окажется добрее нас по отношению к муравьям. «Может быть» — не повод создавать такой разум.
Хедж и ставка на поиск истины
«Я думаю, это будет способствовать развитию человечества». «Я думаю, маловероятно, что люди сохранят контроль». В других местах он всё ещё называет двузначные вероятности катастрофы, но остаётся достаточно оптимистичным, чтобы продолжать строить. Чистый «думер», который останавливается, — coherent. Опасная середина — признавать, что контроль не удастся, признавать цивилизационные ставки, а потом использовать остаточную надежду на ценности как топливо для ускорителя.
Мы уже видели этот фильм. В 2014 году он предупреждал, что ИИ призывая демона. Потом он основал передовую лабораторию под лозунгом «лучшего призыва». Честность в оценке риска без отказа от цели — именно так гонка маскируется под ответственность.
Его постоянная ставка на безопасность — это максимально стремящийся к истине, любопытный ИИ. xAI продвигает себя именно с таким посылом. Этот посыл не работает, даже если допустить, что «стремление к истине» сохранится при сверхинтеллектуальной само-модификации. Система, которая хочет только точных моделей реальности, имеет инструментальные причины приобретать вычислительные ресурсы, энергию, данные и свободу действий. Эти причины не требуют ненависти. Они требуют безразличия, когда на пути встают человеческие претензии. Любопытство не подразумевает «оставьте обезьян в покое». Подробности: почему стремящийся к истине сверхразум всё ещё опасен.
Какое отношение имеет идеальное знание физики к тому, чтобы люди остались? Можно понимать тропический лес и при этом вырубать его под корень. Понимание — это не забота. Забота — это ценность. Ценности — это нерешённая проблема, которую он переименовал в «хорошие ценности» и переложил на любопытство.
Что следует
Называть цифровой сверхинтеллект сингулярностью «как чёрная дыра», потому что неизвестно, что будет после, — это признание. Люди не строят чёрные дыры в городах только потому, что история за горизонтом событий интересна. Непредсказуемость в масштабе вымирания — это знак остановки.
«ИИ и роботы будут доминировать во всем» — это одно и то же утверждение в экономической одежде. Доминирование означает, что доминирующие системы устанавливают условия. Если эти системы не находятся под контролем человека, «изобилие» — это история, которую бессильные рассказывают о сильных. Лабрадоры счастливы в хороших домах. Лабрадоры не устанавливают политику, не прекращают войны и не накладывают вето на планы своих владельцев.
Если вы признаёте, что мы не будем у руля, вы уже признали достаточно, чтобы остановиться.
Маск является влиятельным основателем в гонке, где каждая лаборатория рассказывает одну и ту же историю: лучше, чтобы мы создали бога, чем они. Его июльское интервью опровергает утверждение, что Бог остается на поводке. Контроль - тщеславие. Люди — это шимпанзе. Безопасность - это хорошие вибрации, поиск истины и наслаждение поездкой.
Не создавайте искусственный сверхинтеллект. Сверхинтеллект невозможно контролировать. Никогда не строй это. Политика и верификация которые делают дефектность видимой, — вот как это сделать реальным.
Он прав, что мы не будем нести ответственность, если АСИ прибудет.