Svmuu 소식: 비탈릭은 X 플랫폼에 게시한 글에서, 미래 AI 발전의 한 방향은 인간과 기계의 더 깊은 차원에서의 융합이라고 밝혔다. 여기에는 컴퓨터가 인간과 더 협력적으로 작업하고, 인간이 발산하는 의식적·무의식적 신호를 인식하며, 뇌-컴퓨터 인터페이스(BCI), 그리고 여러 사람이 서로를 더 잘 이해하고 협력할 수 있도록 돕는 컴퓨터 보조 텔레파시 등이 포함된다. 그 최종 형태는 인간과 기계 사이의 이분법을 없애고, 이 스펙트럼 상의 다양한 위치를 개방하는 것이다.
비탈릭은 깊이 융합된 인간과 기계가 서로 분리된 인간과 기계보다 우월하기를 바라며, 이러한 상태가 기술의 한계점에 도달할 때까지 지속되기를 희망한다. 그가 구상하는 먼 미래의 AI 결과에는 다음과 같은 것들이 포함된다: 전 세계 정치 및 경제의 다원주의가 유지되어, 단일 기업이나 정부가 지배력을 장악하지 않는 것; 인류는 기술 업그레이드를 선택하여 순수 기계와 경쟁할 수 있는 수준으로 우주를 탐험할 수도 있고, 현 상태를 유지하며 지시를 따르는 로봇을 통해 세상에서 활동할 수도 있다; 지구 대부분의 지역은 엄격하게 규제되는 자연 보호 구역이 될 수 있으며, 사람들은 현재의 생활 방식을 계속 유지할 수 있고, 더 과감한 일을 하고 싶다면 우주로 향할 수 있다.
AI 자체가 다른 대안들에 비해 지나치게 강력해질 수 있으며, 특정 국가나 기업이 결정적인 우위를 확보해 영구적으로 그 지위를 고착시킬 수도 있다. 강력한 기술 수단은 헤아릴 수 없는 피해를 초래할 수 있고, 인간과 기계의 융합 경로 자체가 충분한 인간성을 보존하지 못해 결국 강력한 로봇을 만드는 또 다른 방식에 그칠 수도 있다. 따라서 그는 이 좁은 통로를 더 느린 속도로 통과하기를 희망하며, 상호 보장된 컴퓨팅 파워 파괴 등 제동 기회를 제공할 수 있는 아이디어를 포함한 감속 또는 일시 중지 제안을 지지하는 입장이다.
비탈릭은 자신이 이상적으로 생각하는 세상은 ‘개방 가중치’가 우세해지는 세상이며, 딘 볼(Dean Ball)이 개방 가중치가 최첨단 모델에 대한 자본 지출을 억제함으로써 감속주의적 효과를 가져온다는 판단은 완전히 옳다고 말했다. 비록 이것이 주변 기기와 애플리케이션에 대한 더 많은 자본 지출을 촉진하겠지만 말이다. 이렇게 하면 더 강경한 정치적 수단을 동원하지 않고도 감속을 실현할 수 있다. 그러나 그는 세상이 자연스럽게 편리한 경제적·물리적 법칙을 제공해 줄 것이라고 기대해서는 안 되며, 인간은 정치적 법칙에 대해 여전히 일정한 주도권을 가지고 있으며, 단일 권위가 장악하지 않는 상황에서 인센티브를 바꿀 수 있는 많은 방법이 있으니 이를 활용해야 한다고 생각했다.