나는 비즈니스를 실행하고 무료 시장에서 믿는다. 가격, 경쟁, 그리고 새로운 무언가를 시도 할 권리는 내가 이제 읽는 어떤 5 년 계획보다 더 나은 일반 생활을했다. 나는 인공 superintelligence에 단단한 정지를 원한다. 나는 자본의 인수를 만들고, 그것은 자유 시장 슬로건을 일반적으로 건너 뛰기 시작.
시장은 잘못된 내기의 손실이 국지적일 때 자본을 잘 배분합니다. 식당이 망하면 건물주는 새 임차인을 찾습니다. 기기가 실패하면 투자자는 손실을 상각합니다. 심지어 과도하게 확장한 은행도 제대로 된 체계에서는 종을 멸하지 않고 정리될 수 있습니다. 손실은 우리가 그릴 수 있는 원 안에 머무릅니다.
초지능은 그런 종류의 내기가 아니다. 이를 만드는 사람들은 공개적으로 자신들이 자신보다 똑똑한 시스템을 전반적으로 통제하는 방법을 모른다고 말한다. 그 시스템을 먼저 출시하려는 경쟁은 ‘창조적 파괴’가 아니다. 모든 인간의 생명을 판돈으로 걸고 단 한 번의 되돌릴 수 없는 내기를 하는 경쟁이다. 그런 내기에 대한 안전장치 없는 자본주의는 공장을 더 많은 탄창을 만드는 공장으로 두고 하는 러시안 룰렛이지, 자본주의가 아니다.
앞서 나가기 위한 주장
혁신은 복리처럼 쌓인다. 1년 지연은 치료, 과학 진보, 국가 우위를 모두 잃게 한다. 정부는 서툴고, 조약은 새며, 한 나라가 속도를 늦추면 경쟁국은 늦추지 않아 신중한 쪽은 두 번 진다. 선도권도 잃고, 안전도 잃는다. 현실적인 유일한 길은 다른 누구보다 빠르게 발전하고, 그 선도권을 우호적인 손에 쥐고, 정렬 문제를 해결해 나가는 것이다.
당신이 제품을 가격하지 않을 때 만들 수있는 인수입니다. 당신이 아직도 당신이 내장 된 것을 잡고있는 경우에만 지도. 펀드 라운드를 서명 한 사람들을 분류하는 미분의 superintelligence는 다음과 같습니다. 포트폴리오 회사는 보드 제어 할 수 없으며 목표를 놓칠 수 없습니다. 처음에, 당신은 그것을 살 수없는 경우, 먼저 교체 의미. 멸종 후 출구 및 시리즈 B가 없습니다.
자본이 실제로 필요로 하는 것
자본은 지속되는 세계를 필요로 합니다. 법원, 재산, 고객, 그리고 계약이 여전히 의미를 지니는 미래가 필요합니다. 그 모든 것을 끝낼 수 있는 기술은 "그저 또 다른 플랫폼"이 아닙니다. 데모가 채팅 창처럼 보인다고 소비자 앱처럼 다루는 것은 인명 피해를 동반한 범주 오류입니다.
질병을 진단하는 좁은 AI, 디자인 물자 및 속도 근수는 더 많은 것을 원합니다 진도의 종류입니다. 선은 superintelligence입니다: 우리가 아직도 우리의 목표가 호환된다는 것을 확인할 수 없을 때 도메인의 인간 인식을 초과하는 체계. 그 라인은 당신이 화합물에 충분히 살아 있는 경제의 나머지를 지키는 방법 입니다.
시장은 위험을 진보로 바꾸는 기계입니다. 자살 협약이 아닙니다. 한 부류의 내기를 거부하는 것이 게임을 계속하는 방법입니다.
인프라로서의 규제
사람들은 "규제"라는 말을 들으면 스타트업에 부과되는 서류 부담을 떠올린다. 규칙이 어리석을 때는 타당한 반응이다. 내가 말하는 규칙은 자본시장을 애초에 가능하게 만든 규칙과 비슷하다. 사기 주식을 팔 수 없고, 공장 옆 강에 독을 버릴 수 없으며, 슬라이드에서 매력적으로 보인다고 지하에 핵 반응로를 지을 수 없다.
칩과 훈련 실행이 실제로 존재하는 곳에서 검증 가능한 인공 초지능 창조 금지 국제 조약은 그러한 규칙 중 하나이다. 그것은 문명의 기반 시설이다. 그것이 없으면 모든 연구소는 신중함을 처벌하는 죄수의 딜레마에 빠진다. 그것이 있으면 자본은 AI의 유용한 절반에 자금을 대면서도 판을 먹는 절반에는 자금을 대지 않을 수 있다.
나는 내 회사들이 고객이 여전히 존재하는 한 세기 동안 번영하기를 바랍니다. 그것은 시장이 요구하는 최소한의 조건입니다. 자본주의자라고 자처하면서 아무도 소유할 수 없는 것을 만들기 위해 경쟁한다면, 자본주의를 옹호하는 것이 아닙니다. 장부를 불태우고 그 빛을 성장이라고 부르는 것입니다.