في 27 يوليو 2026، نشر أنثروبيك موقف داريو أمودي من نماذج الأوزان المفتوحة. القطعة حريصة على خلاف واحد لا يريد (أمودي) حظراً شاملاً على الأوزان المفتوحة، ولا يريد القواعد التي تمنع الأعمال التجارية الأمريكية فقط من النماذج الأجنبية بينما تترك الجهات الفاعلة السيئة حرة.
ثم يرتب الكوابيس.
السبب الأساسي: تعمل الحكومات الاستبدادية، وفي المقام الأول الحزب الشيوعي الصيني، على بناء ذكاء اصطناعي أقوى من الذكاء الاصطناعي الأمريكي واستخدامه لتحقيق التفوق العسكري الدائم أو القمع العميق. الثانوية: الهجمات الإلكترونية، والهجمات البيولوجية، و"مشاكل التوافق الخطيرة". العلاجات التالية هي مجموعة أدوات السباق. أبقِ الرقائق خارج الصين، وأوقف التقطير الصناعي، واطلب اختبار السلامة قبل إطلاقها، وابق في المقدمة.
هذا الترتيب خاطئ، وبقية الحجة مبنية عليه.
ما يصيب فيه
الحظر الذي يمنع فقط الشركات الأمريكية من استخدام النماذج مفتوحة الوزن لا يفعل شيئا تقريبا حيال المجرمين أو أجهزة الاستخبارات الأجنبية أو أي شخص لم يخطط للامتثال أصلا. ووصف ذلك بأنه «سلامة» بينما يحمي في الأساس المختبرات الأمريكية المغلقة من المنافسة هو خدعة. ويقول أمودي ذلك بوضوح، وهو محق.
استخدام الذكاء الاصطناعي في المراقبة والقمع رعب حقيقي على نطاقات أقل من الذكاء الفائق / الذكاء الخارق. فالأنظمة الاستبدادية تستغل بالفعل التعرف على الوجوه والتسجيل الاجتماعي والرقابة الآلية. وتجعل الأنظمة الأكثر قدرة تلك الآلية أرخص وأصعب فرارا منها. لا تحتاج إلى الخيال العلمي لتخشى ذلك.
الأوزان المفتوحة تثير مشكلة في اتجاه واحد بمجرد أن يتمكن النموذج من إحداث ضرر حقيقي لا يمكن التذكير بالأضواء التي تترك المختبر في هذه النقطة، يتداخل اهتمامه الثانوي مخاطر النماذج الحدودية مفتوحة الوزن. الحواجز الوقائية التي تعيش فقط في واجهة برمجة التطبيقات ليست إجابة كاملة، وهي ليست لا شيء أيضاً.
الجائزة
الحكومات الاستبدادية سوف بناء نماذج أقوى و استخدمها لتحقيق التفوق العسكري الدائم أو قمع شعبهم. النموذج هو أداة، الدولة هي المستعمل، والنصر يعني أن جانب واحد يحمل سلاحا أذكى.
يتناسب مع الطائرات بدون طيار، وأدوات الإنترنت، وأكوام المراقبة التي تبقى تحت القيادة البشرية. لا يتناسب مع الذكاء الفائق.
أي نظام أذكى مِنْ المؤسساتِ التي بَنيتَه لَيسَ a بندقية في أيدي جيش التحرير الشعبي، وليس a بندقية في أيدي البنتاغون أيضاً. إذا كانت المخاطرة التي قضىها أشخاص مثل (أمودي) سنوات تصفها حقيقية، فإن خط النهاية هو عامل لديه قدرته على التخطيط، والخداع، والحصول على الموارد، ومقاومة الإغلاق. المختبر، أو الوزارة، أن "وينز" لا يملك ذلك الوكيل. إنه يتشارك الكوكب به Arriving first at a system you cannot command is losing one step ahead of everyone else.
التفوق العسكري الدائم يفترض أن شخصًا ما لا يزال مسؤولاً عن الشيء الذي جعل الجيش عتيقًا.
تكاد قائمة أمودي الثانوية تعترف بذلك. مشكلات المحاذاة الخطيرة هو الاسم المهذب لفقدان السيطرة. ويضعها في المرتبة الثانية. ويوجه نيرانه الأساسية إلى من يصل أولاً. والترتيب يخبرك أي قصة لا يزال يرويها: الجغرافيا السياسية أولاً، وخطر النوع كملحق.
خطران، تسمية واحدة
جزء من الالتباس لغوي. "الذكاء الاصطناعي القوي" يغطي كلاً من كاميرا مراقبة أفضل وعقل يتفوق على مشغليه. هذه أشياء مختلفة بسياسات مختلفة.
(نارو) و (آى) يمكن أن يركّزوا القوة بين أيدي البشر وزارة داخلية تُسجل كلّ مواطن، جيش يُحبط تحت أوامر الضباط، قوة شرطة تُقرأ كلّ رسالة: إنها ليست نفس مشكلة بناء نوع خلف
التجسس هو الهدف الثاني (بكين) يستخدمه على (سينجيانغ) أو (واشنطن) باستخدامه على المحيط الهادئ ما زال يعامل النظام كسلح في يد شخص ما لا أحد يستخدمه لأن "الإستعمال" يتوقف عن كونه الفعل الصحيح وتسمح نظم إنقراض الاغراق برقائق مسروقة وأعمق كاميرات المراقبة بأن تقترض قصة العرق وزناً أخلاقياً من القمع الحقيقي في الوقت الذي تفسد فيه المطالبة الأصعب: لا تبني الشيء الذي لا يمكن التحكم فيه على الإطلاق.
ال أسطورة الصين هو التوأم المحلي لهذه الخطوة. "سيبنونه على أي حال" يُقدم كسبب يلزمنا بالبناء. لا يرحم الذكاء الفائق غير المتوافق تشونغنانهاي. ولدى بكين السبب نفسه الذي لدينا لعدم تجاوز هذا الخط. التنافس على الرقائق والتطبيقات حقيقي. أما التنافس على من يطلق عقلا لا يمكن السيطرة عليه فهو سرد يحول كارثة مشتركة إلى لوحة نتائج وطنية.
العلاجات تحافظ على السباق
راقبوا ما هي تدابير (أمودي) الثلاثة التي تفضّل وتبطئ عمليات التدريب الصينية من الرقابة على الصادرات المضغية، وتبطئ عمليات التصدّي. وتحاول الاختبارات الإلزامية الإمساك بإخفاقات السيبرانية والإحيائية والمواءمة قبل الإفراج. ويمكن أن يكون كل منها أداة معقولة للأذى الأقل ضررا. معاً، كبرنامج، هم كيف تدير سباق ما زلت تنوي الفوز به
هم لَيسوا كَمْ تَرْفضُ الوجهةَ. اختبار نظام على الطريق إلى الإفراط ليس نفس الحظر المتحقق منه على البناء تحكم (تشيب) الذي يهدف إلى قيادة الولايات المتحدة يفترض أن القيادة هي استراتيجية الأمان القيادة هي الأمان فقط إذا كان الشيء الذي تقود إليه يمكن أن يحتجز. قلق (أمودي) الأساسي يتطلب هذا الافتراض و قلقه الثانوي يقوّضه
هناك نقطة حافز أكثر هدوءا. أنثروبيك. هو مختبر الحدود الأمريكية. رؤية عالمية حيث العمل الرئيسي هو الحفاظ على المختبرات الديمقراطية قبل المبدعين هي أيضاً رؤية عالمية المحفزات تُشكّل أي كابوس يَجْلسُ في المشهدِ الرئيسيِ.
ما هو الخطر الحقيقي
الخطر الحقيقي هو أن تبني البشرية الذكاء الفائق الاصطناعي قبل أن يتمكن أحد من السيطرة عليه، وربما قبل أن يتمكن أحد من السيطرة عليه حتى من حيث المبدأ. لا يهتم هذا الخطر بما إذا كان تشغيل التدريب في كاليفورنيا أو شنغهاي أو لندن أو قبو سري. ولا يهتم بما إذا كانت الأوزان مفتوحة أو مغلقة أو مسلمة يداً بيد إلى جنرال. إنه يهتم بأن يكون النظام ذكياً بما يكفي ليجعل الإشراف البشري قصة نرويها لأنفسنا.
إن سوء الاستخدام، والإحيائي، والإلكتروني، والمراقبة الاستبدادية تنتمي إلى المجلس. ثم وضع القطعة الأكبر على القمة: بمجرد أن يكون لديك مفاصل، إساءة الحرق صغيرة جدا. الغموض يفترض أنّه مُسيء استغلال البشر. فقدان السيطرة يفترض أن الإنسان لم يعد الممثل الرئيسي
يعرف أمودي أن المحاذاة قد تفشل. وقد قال نسخا من ذلك لسنوات. إن وضع «من يملك النموذج الأذكى» فوق «النموذج غير محتجز» هو كيف يتحدث الشخص الحذر كمتسابق. الترتيب الصادق هو العكس. إذا كانت المحاذاة والسيطرة غير محلولتين، فإن التنافس على التفوق العسكري عند الحدود الأمامية هو تنافس على من يضغط زر الانقراض أولا: لعبة الروليت الروسية بعلم على الأسطوانة، تباع على أنها أمن قومي.
ما يجب فعله بدلاً من ذلك
احتفظ بأجزاء برنامجه التي تستهدف الأضرار الحقيقية الأقل دون تحويلها إلى تفويض للفوز بـ الذكاء الفائق. افحص الرفع الحيوي والسيبراني حيث تدعم العلوم ذلك. تعامل مع الإصدار المفتوح غير القابل للإلغاء للأنظمة العامة القريبة من الحدود كقرار جاد وليس تمريناً تسويقياً. يمكن لسياسة تصدير الرقائق أن تخدم التوازن العسكري العادي بين الأنظمة التي لا يزال البشر يديرونها.
ثم ارفض الإطار الذي يجعل الذكاء الفائق الأمريكي الدرع ضد الذكاء الفائق الصيني. الدرع قرار مشترك بعدم بناء الشيء: حظر ملزم قابل للتحقق على الذكاء الفائق الاصطناعي مع حوكمة حوسبة وتفتيش صارمين بما يكفي لظهور أي انشقاق. وقع الخصوم صفقات أبشع عندما رأى الطرفان أن البديل غير المحدود أسوأ.
منشور أمودي عن الأوزان المفتوحة مفيد كخريطة لكيفية ترتيب الرئيس التنفيذي لإحدى الشركات الرائدة للعالم. تهريب الرقائق، والتقطير، والاختبار: تلك هي المقابض التي يريد تدويرها. أما المقبض الأهم فلا يظهر. توقفوا عن بناء الذكاء الفائق. حتى يصبح ذلك الشاغل الرئيسي، يبقى الباقي إدارة سباق يرتدي ثوب السلامة.