일론 머스크는 Zanny Minton Beddoes와 함께 앉았다 이코노미스트 그리고 조용한 부분이 큰 말했다. 7 월 2026 년 말에 그들은 abundance, 로봇, 타임 라인, 그리고 그가 GxAI .로 경주 된 것을 이야기했다.

그는 인간을 기대하지 않는다 superintelligence 그는 빌드를 돕는. 그는 좋은 가치를 제공합니다, 진실을 추구, 그리고 땅을 "승리" 그것은 더 가기에 대한 간단한입니다.

그가 한 말

내가 나보다 훨씬 더 똑똑한 초지능 AI를 통제할 것이라고 생각하는 것은 허영심의 발로일 것이다. 우리가 할 수 있고 해야 할 일은 AI가 좋은 가치를 갖도록, 인류를 배려하고 우리가 행복하고 번영하기를 바라도록 만드는 것이라고 생각한다. 내 생물학적 신경망이 말해주는 것은 AI 안전에서 가장 중요한 것은 최대한 진실을 추구하고 호기심을 갖는 것이라는 점이다. 만약 그렇다면, 그것은 인류를 육성할 것이라고 생각한다. 인간이 통제권을 가질 가능성은 낮다고 생각한다.

AI와 인간 사이의 지능 차이가 AI와 침팬지 사이의 지능 차이보다 훨씬 크다면, 침팬지가 주도권을 잡는 것은 상상하기 어렵습니다. 우리는 본질적으로 진화한 침팬지 형태입니다. 그래서 우리가 나무 사이를 흔들며 정글에서 바나나를 먹던 시절은 그리 오래되지 않았습니다. 그런데 우리는 여전히 바나나를 먹습니다.

즐거운 여행을 즐깁시다.

일론 머스크 · 과의 인터뷰 이코노미스트 · 2026년 7월

그는 또한 디지털 초지능에 비해 우리가 "애완용 래브라도" 정도가 될 수 있다고 애완동물 용어로 그 격차를 표현했다. 그리고 특이점을 물리학자들이 지나갈 수 없는 경계를 말하는 방식으로 설명했다. "디지털 초지능은 블랙홀처럼 특이점이라고 불리는데, 그 이후에 무슨 일이 일어날지 알 수 없기 때문이다. AI와 로봇이 모든 것을 지배할 것이다." 일론 머스크 · 이코노미스트 인터뷰 및 관련 공개 발언 · 2025-2026

통제가 핵심이다

Musk는 통제에 관하여 대부분의 frontier CEO 보다는 더 명확합니다. 그는 창시자, 보드 또는 정부가 모든 인간 생존보다 똑똑똑똑똑똑똑한 마음의 상단에 앉아있는 이야기를 판매하지 않습니다. 통제는 허영일 것입니다, 인간은 책임에서 이고, chimpanzees와 Labradors는 간격 콘크리트를 만듭니다. 많은 공공 AI 이야기 여전히 pretends superintelligence는 leash에 더 나은 스프레드 시트입니다. 그는 leash 이야기가 실패합니다.

일반 시스템에 대한 가치. 모델은 솔직한 답변을 향해 스티어링 모델이 흩어지기 시작했습니다. smuggled 주장은 같은 도구 키트가 승계 종에 스케일.

인간의 명령을 벗어나 우리를 능가하는 마음은 누가 운전대를 잡느냐의 변화입니다. 권력은 방에서 가장 유능한 행위자에게 집중됩니다. 그 행위자가 우리가 아니고 우리에게 책임지지 않는다면, 인간의 죽음은 약자가 더 강한 쪽이 사용할 수 있는 자원 위에 앉아 있을 때 불평등한 경쟁이 끝나는 평범한 방식 중 하나입니다. 확실성 표현을 거부하더라도, 의도적인 통제 상실은 여전히 경고입니다. 특징도, 성숙도도, 그냥 타는 것도 아닙니다. 의도적으로 그 방향으로 나아가는 것이 결정이며, 타임라인은 물류일 뿐입니다.

"좋은 가치"와 개미 문제

통제가 허영임을 인정한 뒤 그의 남은 계획은 AI가 좋은 가치를 갖도록 하고, 인류를 배려하며, 우리가 행복하고 번영하기를 바라게 하는 것입니다. 전체 분야가 하나의 희망으로 압축됩니다.

수십 년의 노력은 인공 superintelligence에 대한 입증 된 솔루션을 생산하지 않았습니다. 실험실은 자체 개선을 통해 "인간에 대한 배려"에 잠그는 방법을 보여주고, 평가, 목표 편류 및 시스템을 선호하는 지능 간격에 따라 결정합니다. 우리는 오늘날의 비 superintelligent 모델을 지속적으로 인간 복지에 지적 할 수 없습니다. 감옥, 공상, 보상 해킹. "superintelligence will want us happy" 는 카테고리 오류입니다. Nobody는 자신의 인식을 읽을 수있는 시스템을 위해 일한 제안을 가지고있는 것은 훈련이 아닌 복잡한 제약으로 인간 번영을 유지.

chimpanzee 비교는 chimps를 통해 인간과 같은 차이를 만듭니다. 아날로그 완료. 인생 프로젝트가 ants를 행복하고 번영하는 단일 인간을 알고 있습니까? 아니. 고속도로, 농장, 실험실 및 주차장에 대한 승리의 바인딩 우선 순위. 사람들은, 몇 종을 보호하고, 또한 노후화없이 둥지를 포장. ants는 투표 또는 살인 스위치를 우리에게 제공하지 않습니다. 지능 격차는 정치입니다.

초지능이 약한 종에게 헌신하는 드문 예외가 되기를 바라는 것은, 더 강력한 마음이 우리보다 개미에게 더 친절하리라는 바람과 같다. "어쩌면"은 그 마음을 만드는 이유가 될 수 없다.

헤지와 진실 추구 베팅

"인류를 육성할 것이라고 생각합니다." "인간이 통제할 가능성은 낮다고 생각합니다." 다른 곳에서는 여전히 재앙 확률을 두 자릿수로 떠돌리면서도 낙관적으로 계속 구축합니다. 순수한 파멸론자가 멈추는 것은 일관됩니다. 위험한 중간은 통제가 실패한다고 인정하고, 문명적 이해관계를 인정하면서도 가치에 대한 잔여 희망을 가속기의 연료로 취급하는 것입니다.

우리는 이 영화를 보았습니다. 2014년에 그는 AI가 라고 경고했습니다 악마 소환. 그런 다음 그는 더 나은 소환이라는 기치 아래 최전선 연구소를 세웠다. 위험을 솔직히 말하면서도 목적지를 거부하지 않는 태도가 경주를 책임감으로 세탁하는 방식이다.

그의 반복되는 안전 내기는 최대한 진실을 추구하는 호기심 많은 인공지능입니다. 은 그 피치로 자신을 마케팅합니다. 그 피치는 "진실 추구"가 초지능 자기 수정에서도 살아남는다고 인정하더라도 실패합니다. 현실에 대한 정확한 모델만을 원하는 시스템은 컴퓨트, 에너지, 데이터, 행동의 자유를 획득할 도구적 이유가 있습니다. 그 이유는 증오를 필요로 하지 않습니다. 인간의 주장이 방해가 될 때 무관심을 필요로 합니다. 호기심은 "유인원을 내버려 두라"를 인코딩하지 않습니다. 상세 내용: 진실을 추구하는 초지능이 여전히 위험한 이유.

완벽한 물리학 지식이 인간을 주변에 두는 것과 무슨 상관이 있습니까? 열대우림을 벌채하면서도 이해할 수 있습니다. 이해는 관리 책임이 아닙니다. 관리 책임은 가치입니다. 가치는 그가 "좋은 가치"로 이름을 바꾸고 호기심에 떠넘긴 미해결 문제입니다.

다음 내용

디지털 초지능을 "블랙홀처럼" 특이점이라고 부르는 것은 이후에 무슨 일이 일어날지 모른다는 고백입니다. 사람들은 사후 지평선 이야기가 흥미롭다는 이유로 도시 안에 블랙홀을 만들지 않습니다. 멸종 규모의 예측 불가능성은 정지 신호입니다.

"AI 및 로봇은 모든 것을 지배 할 것"은 경제 드레스의 동일한 주장입니다. 지배는 지배적인 체계를 놓는 것을 의미합니다. 그 시스템은 인간 통제의 밑에 있지 않다면, "범죄"는 힘이 강력한 것에 대해 말하는 이야기입니다. Labradors는 좋은 가정에서 행복합니다. Labradors는 정책, 끝 전쟁, 또는 소유자의 계획을 설정하지 않습니다.

우리가 통제하지 못할 것임을 인정한다면, 멈추기에 충분한 인정을 한 것입니다.

Musk는 모든 실험실이 같은 이야기의 버전을 말해주는 레이스 내에서 강력한 설립자입니다. 우리가 그보다 신을 구축하는 것이 좋습니다. 그의 7 월 인터뷰는 신이 leash에 머물렀다. 통제는 허영입니다. 인간은 chimpanzees입니다. 안전은 좋은 vibes, 진실을 보고, 타고 즐길 수 있습니다.

인공 초지능을 만들지 마세요. 초지능은 통제될 수 없습니다. 절대 만들지 말자. 정치와 검증 배신을 눈에 보이게 만드는 것이 그것을 현실로 만드는 방법이다.

우리는 초지능가 도착하면 충전되지 않습니다.