Elon Musk ngồi cùng Zanny Minton Beddoes của Nhà kinh tế và nói phần yên tĩnh ra. Vào cuối tháng 7 năm 2026, họ đã nói về sự phong phú, robot, dòng thời gian, và thứ mà anh ta đã chạy đua với vội vàng.

Ngài không đòi hỏi loài người kiểm soát sự thông minh siêu việt mà Ngài đang giúp xây dựng. Ông ấy đưa ra những giá trị tốt, tìm kiếm sự thật, và một sự nhún vai mà đặt dưới dạng "vui vẻ với chuyến đi". Đó là cách ngắn gọn để không đi xa hơn.

Những gì ông ấy nói

Sẽ là sự kiêu ngạo nếu tôi nghĩ rằng mình sẽ kiểm soát AI siêu thiên tài thông minh hơn tôi rất nhiều. Tôi nghĩ điều chúng ta có thể và nên cố gắng làm là đảm bảo AI có giá trị tốt, rằng nó quan tâm đến nhân loại và muốn chúng ta hạnh phúc và thịnh vượng. Những gì mạng nơ-ron sinh học của tôi mách bảo là điều quan trọng nhất đối với an toàn AI là tìm kiếm sự thật và tò mò ở mức tối đa. Nếu đúng như vậy, tôi nghĩ nó sẽ nuôi dưỡng nhân loại. Tôi nghĩ con người khó có thể nắm quyền kiểm soát.

Nếu khoảng cách trí tuệ giữa AI và con người lớn hơn nhiều so với khoảng cách giữa AI và tinh tinh, thì khó hình dung tinh tinh sẽ nắm quyền. Còn chúng ta về cơ bản là một dạng tinh tinh đã tiến hóa. Chưa lâu lắm chúng ta còn đang vắt ve trên cây, ăn chuối trong rừng. Và chúng ta vẫn ăn chuối, nhân tiện.

Hãy tận hưởng hành trình.

Elon Musk · Phỏng vấn với Nhà kinh tế · Tháng 7 2026

Anh ấy cũng diễn đạt khoảng cách bằng cách nói ví von: so với siêu trí tuệ kỹ thuật số, chúng ta có thể kết thúc chỉ như "chú chó Labrador cưng" ở mức tốt nhất. Và anh ấy mô tả singularity theo cách các nhà vật lý nói về ranh giới không thể nhìn thấu: "Siêu trí tuệ kỹ thuật số được gọi là singularity, giống như hố đen, vì bạn không biết điều gì sẽ xảy ra sau đó. AI và robot sẽ chi phối mọi thứ." Elon Musk · Cuộc phỏng vấn The Economist và các nhận xét công khai liên quan · 2025-2026

Kiểm soát là then chốt

Lính ngự lâm rõ ràng hơn hầu hết các CEO biên giới về kiểm soát. Ông không bán câu chuyện mà một người sáng lập, một ban lãnh đạo, hoặc một chính phủ sẽ ngồi trên một tâm trí thông minh hơn bất cứ ai. Kiểm soát là phù phiếm, con người khó có khả năng chịu trách nhiệm, và tinh tinh và các nhà quảng cáo làm cho khoảng trống trở nên bê tông. Rất nhiều bài nói chuyện của công chúng về trí tuệ nhân tạo vẫn giả vờ là một sự kiểm tra tốt hơn trên một dây xích. Anh ta nói là vụ xích không thành.

Giá trị vật chất cho hệ thống thông thường. Những người mẫu hướng tới những câu trả lời trung thực, những người mẫu đã hướng tới những trò lừa đảo. Yêu cầu buôn lậu là cùng một thang công cụ cho một loài kế vị.

Một trí óc vượt trội hơn chúng ta và nằm ngoài sự chỉ huy của con người là sự thay đổi về ai nắm giữ vô lăng. Quyền lực tập trung vào tác nhân có năng lực nhất trong phòng. Nếu tác nhân đó không phải là chúng ta và không chịu trách nhiệm trước chúng ta, cái chết của con người là một trong những cách thông thường mà các cuộc tranh chấp không cân bằng kết thúc khi bên yếu thế ngồi trên tài nguyên mà bên mạnh hơn có thể sử dụng. Ngay cả khi bạn từ chối ngôn ngữ chắc chắn, việc cố tình mất kiểm soát vẫn là một hồi chuông báo động: không phải tính năng, không phải sự trưởng thành, và không phải một chuyến đi. Xây dựng hướng tới điều đó một cách có chủ đích chính là quyết định. Lộ trình chỉ là vấn đề hậu cần.

"Giá trị tốt" và vấn đề con kiến

Sau khi thừa nhận kiểm soát là ảo tưởng, kế hoạch còn lại của ông là đảm bảo AI có giá trị tốt, quan tâm đến nhân loại, muốn chúng ta hạnh phúc và thịnh vượng. Toàn bộ lĩnh vực bị nén lại thành một niềm hy vọng.

Hàng thập kỷ công việc không cho thấy giải pháp cho sự siêu thông minh nhân tạo. Không phòng thí nghiệm nào cho thấy làm thế nào để khóa "quan tâm đến con người" thông qua sự tự cải thiện, sự lừa dối theo đánh giá, mục tiêu trôi dạt, và một lỗ hổng trí thông minh giúp ích cho hệ thống. Chúng ta thậm chí không thể duy trì những mô hình không thông minh ngày nay liên tục chỉ vào lợi ích con người. Phá án, phá thai, hack tiền thưởng. Nhảy từ kỷ lục đó sang "Sự thông minh siêu việt sẽ muốn chúng ta hạnh phúc" là một lỗi phân loại. Không ai có một đề xuất làm việc cho việc một hệ thống có thể viết lại nhận thức của chính mình giữ cho sự phát triển của con người trở thành một sự ràng buộc hơn là một đồ tạo tác.

So sánh giữa loài tinh tinh làm cho khoảng cách trông giống con người hơn loài tinh tinh, chỉ lớn hơn. Kết thúc phép so sánh đi. Bạn có biết một con người độc thân có dự án cuộc sống làm cho kiến hạnh phúc và thịnh vượng không? Không phải là ẩn dụ. Là ưu tiên ràng buộc chống lại đường cao tốc, trang trại, phòng thí nghiệm và bãi đỗ xe. Người ta nghiên cứu kiến, bảo vệ một vài loài, và cũng làm tổ mà không để ý. Loài kiến không được bỏ phiếu hay công tắc tiêu diệt. Khoảng cách thông minh chính là chính trị.

Hy vọng một siêu trí tuệ sẽ là ngoại lệ hiếm hoi tự nguyện phục vụ một loài yếu hơn là một ước muốn rằng bộ óc mạnh mẽ hơn sẽ tử tế hơn chúng ta với loài kiến. “Có lẽ” không phải lý do để xây dựng bộ óc ấy.

Sự phòng ngừa và cược tìm kiếm sự thật

"Tôi nghĩ nó sẽ nuôi dưỡng nhân loại." "Tôi nghĩ con người khó mà kiểm soát được." Ở nơi khác ông vẫn đưa ra xác suất thảm họa hai con số nhưng vẫn lạc quan đủ để tiếp tục xây dựng. Một người bi quan thuần túy dừng lại là điều hợp lý. Vùng nguy hiểm ở giữa là thừa nhận kiểm soát thất bại, thừa nhận stakes văn minh, rồi coi hy vọng còn sót lại về giá trị làm nhiên liệu cho máy gia tốc.

Chúng tôi đã xem bộ phim này. Năm 2014 ông ấy đã cảnh báo rằng AI là triệu hồi con quỷ. Sau đó ông thành lập một phòng thí nghiệm tiên phong dưới danh nghĩa triệu hồi tốt đẹp hơn. Sự trung thực về rủi ro mà không từ chối đích đến là cách cuộc đua tự rửa sạch thành trách nhiệm.

Lối cá cược an toàn lặp lại của ông là một AI tò mò, tìm kiếm sự thật ở mức tối đa. xAI tự quảng bá dựa trên luận điểm đó. Luận điểm này thất bại ngay cả khi bạn chấp nhận rằng "tìm kiếm sự thật" tồn tại sau khi tự sửa đổi siêu trí tuệ. Một hệ thống chỉ muốn có mô hình chính xác về thực tại có lý do công cụ để thu thập compute, năng lượng, dữ liệu và tự do hành động. Những lý do này không cần đến sự thù hận. Chúng chỉ cần sự thờ ơ khi các yêu sách của con người cản trở. Sự tò mò không mã hóa "để yên cho loài vượn." Chi tiết: tại sao một siêu trí tuệ tìm kiếm sự thật vẫn nguy hiểm.

Kiến thức vật lý hoàn hảo có liên quan gì đến việc giữ con người tồn tại? Bạn có thể hiểu một khu rừng nhiệt đới trong khi đang chặt sạch nó. Hiểu biết không phải là sự quản lý. Sự quản lý là một giá trị. Giá trị là vấn đề chưa giải được mà ông ta đổi tên thành "good values" rồi khoán trắng cho sự tò mò.

Những gì tiếp theo

Gọi siêu trí tuệ kỹ thuật số là một singularity "giống như hố đen" vì bạn không biết điều gì xảy ra sau đó là một lời thú nhận. Con người không xây hố đen trong thành phố chỉ vì câu chuyện sau đường chân trời thú vị. Sự không thể đoán trước ở quy mô tuyệt chủng là một biển báo dừng.

"AI và robot sẽ thống trị tất cả mọi thứ" cũng giống như vậy trong trang phục kinh tế. Cai trị có nghĩa là hệ thống thống thống thống trị đặt ra các điều khoản. Nếu những hệ thống đó không nằm dưới sự kiểm soát của con người, "sự dồi dào" là một câu chuyện mà những người bất lực kể về những sức mạnh. Bọn chó săn rất vui vẻ. Các nhà quảng cáo không đặt ra chính sách, chấm dứt chiến tranh, hoặc bác bỏ kế hoạch của chủ nhân.

Nếu bạn thừa nhận chúng ta sẽ không còn kiểm soát, bạn đã thừa nhận đủ để dừng lại.

Musk là một người sáng lập mạnh mẽ bên trong một cuộc đua nơi mà mỗi phòng thí nghiệm kể một phiên bản của cùng một câu chuyện: tốt hơn là chúng ta xây dựng vị thần hơn họ. Cuộc phỏng vấn vào tháng Bảy của anh ta làm giảm sự giả vờ rằng chúa sẽ bị xích. Kiểm soát là hư không. Con người là loài tinh tinh. An toàn là cảm giác tốt, tìm kiếm sự thật, và thưởng thức chuyến đi.

Không xây dựng trí tuệ siêu nhân tạo. Siêu trí tuệ không thể kiểm soát được. Không bao giờ xây nó. Chính trị và xác minh những thứ khiến sự phản bội trở nên rõ ràng là cách bạn làm cho điều đó trở nên thực tế.

Ngài nói đúng rằng chúng ta sẽ không chịu trách nhiệm nếu A - si - ri đến.