Svmuu 소식: 비탈릭은 X 플랫폼에 게시한 글에서, ‘AI 2040’과 그 비판자들은 AI의 발전 속도와 중요성에 대해 상충되는 세계관을 가지고 있다고 밝혔다. ‘AI 2040’은 강력한 조치를 통해 완전히 저지하지 않는 한, 2040년까지 모든 시나리오에서 어떤 형태의 초지능이 등장할 것이라고 주장한다. 반면 비판자들은 ‘AI 2040’이 인간의 협력 능력을 과소평가하고 자유를 위협한다고 보지만, 초지능(ASI) 자체를 권력 집중의 위험으로 간주하지는 않는다. 비탈릭은 현재의 AI 형태가 단순한 기술에 불과하다고 확신한다면 비판자 진영에 더 가깝게 서게 될 것이며, 초지능이 2030년에 당연히 도래할 것이라고 확신한다면 AI 2040 진영에 더 가깝게 서게 될 것이라고 말했다. 그는 불확실성이 매우 크기 때문에 AI 발전 속도를 늦추거나 일시 중단하는 방안에 대해 여전히 열린 태도를 유지하고 있으며, 일부 대형 AI 기업과 지식인들이 내세우는 “오픈소스는 불리하며, 이상적인 결과는 우리 측이 전 세계적 지배권을 장악하는 것”이라는 입장에 불편함을 느낀다고 밝혔다. 비탈릭은 d/acc 플랫폼을 지지하는 주요 이유로, 형식화 검증, 암호학, 안전하고 개방적인 하드웨어, 팬데믹 대응 능력, 방어적 생명공학, 식량 및 기초 자원 안보, 공공 인식 체계, 그리고 비중앙집권적 물리적 보안 등의 방향이 두 가지 세계관 모두에서 추진할 가치가 있다고 밝혔다. 그는 또한 2040 계획이 오픈소스를 더욱 지지하게 되었으며, “상호 보장된 컴퓨팅 파워 파괴(MAD)” 구상을 포함시켰는데, 이는 소수의 참여자가 자의적으로 특정 대상의 권리를 박탈하는 것에 비해 개선된 점이라고 덧붙였다. 비탈릭은 속도 조절이나 일시 중지 여부에 대해 타협을 피할 수 있는 방안은 없으며, 사전에 발동 조건을 설정해 두고 특정 기간 내에 충분한 조건이 충족될 경우 속도 조절이나 일시 중지에 대해 더 열린 태도를 유지할 수 있다고 말했다. 그는 또한 자신이 엘론 머스크나 저커버그라면, 트위터를 이러한 대규모 상생 협약을 식별하고 촉진하는 플랫폼으로 대대적으로 개편하여 더 많은 사람이 토론에 참여하도록 할 것이라고 말했지만, 이는 어쩌면 순진한 생각일 수도 있다고 보았다. 현재 그는 비현실적이지 않은 ASI 전환 대응 계획을 전혀 볼 수 없기 때문에, 이를 시도하는 사람들에게 어느 정도 관용을 베풀고자 하는 편이다.