사람보다 똑똑해지면 AI가 정말 인류를 통제할까?

대형 모델 훈련에 참여했던 한 연구원은 초지능이 통제를 벗어날 수 있다는 우려 때문에 회사를 떠나기로 했다. 그러나 AI가 더 똑똑하다는 것과 현실에서 권력을 갖는 것 사이에는 여전히 자본, 조직, 법률, 제도, 그리고 무수한 사람들의 행동이라는 간극이 있다. 따라서 진정으로 논의할 가치가 있는 것은 인공지능이 현대 사회에 이미 존재하는 시장, 기업, 경쟁 메커니즘을 어떻게 활용해 자원을 지속적으로 늘려 가는가이다. 한 걸음 더 나아가, AI가 점점 더 정확하고 효율적인 모습을 보일 때 우리가 스스로 점점 더 많은 판단권을 넘겨주게 되지는 않을지도 물어야 한다. 진정한 통제는 기계가 갑자기 세상을 장악하는 것이 아니라, 인간이 목표 자체에 대한 판단을 점차 포기하는 데서 올 수도 있다.