나는 언젠가 2026년보다 더 많은 물리학으로 중력을 제어하고 웜홀을 열고 빛보다 빠르게 이동할 수 있게 될 것이라고 믿는다. 현재 지식으로는 불가능하다. 그래도 우리는 아직 알려진 것의 극히 일부만 파악했다고 생각한다. 이는 우리의 과학이 얼마나 젊은지에 대한 현실주의로 읽힌다.

한 미래 나는 감각을 만들 수 없었던 적이 없었다, 얼마나 오래 나는 그것을 켜거나 어떻게 많은 사람들이 나는 그것을 통해 이야기 : 우리가보다 엔티티티티 스마트에 대한 내구성 제어. 생물학 또는 기계. 이 행성 또는 다른 곳에서. 다른 마음이 인간보다 더 똑똑하다면, 우리가 그것을 제어하는 방법을 볼 수 없습니다.

점수판

그 모양이 dodge가 어렵습니다. 모든 인류의 전체 지식과 기술을 호출, 함께 일, 100. 평균 사람이 그 작은 조각을 보유하고 있습니다.

이제 우리가 어떻게 완벽하게 수행 상상해보십시오 : 모든 관련 인간, 실험실 및 정부는 폐기물과 지연이 없습니다. 우리는 테이블에 전체 100을 넣어.

상대편에게 더 높은 상한선을 주십시오. 최대치를 200으로 설정하십시오. 좋은 날이 아니어도 됩니다. 51퍼센트 효율만으로도 102점을 넘깁니다. 완벽한 인간 총점을 반쯤 졸면서도 이깁니다.

인간 전쟁에서, 1개의 측은 수시로 정보, 근수, 또는 무기에 있는 얇은 이점만 decisive 승리에 잠그는 필요로 합니다. 얇은 가장자리는 전체적인 결과로 끝냅니다. 그래서 우리보다 훨씬 더 똑똑한 무언가를 이길 수 있습니까?

약한 파티가 더 강한 것을 쓴 헌법은 더 강한 것을 묶지 않습니다.

물리학은 적이 아니다

나는 우리가 1 일 통제 중력을 말할 때, 몇몇 사람들은 어려운 문제 수확량에 일반적인 믿음을 듣습니다. 어떤 단단한 문제. 힘과 물자는 대리인이 아닙니다. 그들은 계획 주위에 계획하지 않습니다, 또는 그들이 당신의 테스트를 모델링하기 때문에 전략을 숨길. 확장 물리학은 여전히 어렵습니다. 룰러를 멸망하는 마음은 다른 종류의 하드입니다.

통제는 우리가 아는 모든 지속 가능한 사례에서 경계선 위에서 작동한다. 힘, 법, 비밀, 전원 스위치, 또는 상대방이 단순히 앞서가지 못하는 경우다. 초지능은 그 경계선을 의도적으로 지우는 프로젝트다. 결국 감독에서, 허점 찾기에서, 플러그를 뽑으려는 의도를 알아채는 데서 당신을 이길 플레이어를 감독하려는 시도다.

나는 희망적인 버전을 들었다. 우리는 그것으로 성장할 것입니다, 합병, 사랑으로 올려, 또는 우리가 확실할 때까지 상자에서 그것을 지킵니다. 각 버전은 아직도 더 강한 것을 위한 약한 당 세트 지속 기간을 가정합니다. 나는 소원을 감탄 할 수 있지만 현실에 1 개의 접지가 없습니다.

재단이 존재하는 이유

통제할 수 없는 경우, 그것을 요구하는 것을 건축하지 마십시오. 공구를 유지하는 좁은 도구는 의약품, 과학, 산업을 더 잘 만들 수 있습니다. 선은 인공 superintelligence입니다 : 보드를 건너 뛰고 더 이상 인간의 명령에 앉아있는 일반적인 마음.

나카다 재단를 시작한 이유는 그 선이 공학 일정으로 취급되고 종을 위한 정지 신호로 여겨지지 않기 때문입니다. 연구소들은 경쟁하고, 정부들은 승리를 말합니다. 안전 작업은 종착지를 전제하고 충돌을 완화하려 합니다. 충돌 자체가 문제입니다. 지능 격차를 넘어서는 정렬은 불가능합니다 당신은 존재로 정의한다.

나는 우리가 밝은 미래에 존재하는 것을 계속할 수 있다고 믿고, 우리가 통제할 수 없는 법인을 건설하지 않는 것을 공동으로 결정하는 첫번째 단계.