유발 하라리, AI의 위험성과 인류의 대응 방안

유발 하라리, AI의 위험성과 인류의 대응 방안

인공지능(AI)은 핵폭탄이나 기차와 같은 이전 기술과는 본질적으로 다릅니다. 이전의 기술은 단순한 도구였지만, AI는 스스로 학습하고 결정을 내릴 수 있는 능력을 가지고 있습니다. 이는 우리가 처음으로 우리의 힘을 가져갈 수 있는 것에 직면했다는 것을 의미합니다.

AI의 결정권과 민주주의의 위협

세계적인 석학 유발 하라리 예루살렘 히브리대학교 역사학 교수는 AI의 지배력 확대에 대해 우려를 표명했습니다. 그는 "AI를 인간의 도구로 간주하는 사람들이 있지만, AI는 스스로 학습하고 사고하며 결단할 수 있다"며, 이는 민주주의에 매우 위험하다고 평가했습니다.

알고리즘의 영향력과 사회적 부작용

하라리는 소셜미디어(SNS)와 뉴스에서도 사람이 아닌 알고리즘이 편집하는 변화가 일어나고 있다고 지적했습니다. 이는 대중의 공론이 어떤 방향으로 갈지 결정하는 권력을 알고리즘이 행사하고 있다는 것을 의미합니다. 이러한 변화는 가짜뉴스와 음모론, 증오를 퍼뜨리며 인간의 대화 능력을 파괴하고 있습니다.

AI의 금융 부문 영향과 규제의 필요성

AI의 영향력은 금융 부문에도 나타나고 있습니다. 가상화폐는 인간의 제도권에서 탄생한 전통 화폐에 대한 불신에서 비롯되었으며, 알고리즘으로 힘이 넘어가고 있습니다. 하라리는 AI가 인간이 이해할 수 없는 금융 상품을 만들어낼 경우 재앙과 같은 세계 금융위기가 발생할 수 있다고 우려했습니다.

AI 개발 경쟁과 국제적 협력의 중요성

하라리는 AI 개발 경쟁에 대해 "우리도 위험이 있다는 걸 알고 있다. 초지능 AI를 개발하면 우리가 제어하지 못하고 인류가 파멸할 수 있다는 것도 안다. 그런데 다른 인간을 믿지 못하기 때문에 우리가 움직이는 것이다. 우리만 멈추면 질 것이고 경쟁자가 세계를 지배하게 될 것"이라는 답변이 돌아왔다고 전했습니다.

AI에 대한 신뢰와 통제의 필요성

초지능 AI를 신뢰할 수 있느냐는 질문에 대해 하라리는 "미친 생각"이라고 일갈했습니다. 인간은 수천 년 동안 다른 인간과 살아오며 심리를 이해하고 연민과 신뢰를 구축했지만, 초지능 AI는 이러한 경험이 없으며 거짓말도 하고 예측할 수 없는 목표를 설정할 수도 있기 때문입니다. 그는 "AI가 인류를 장악하기 전에 인간이 AI를 통제해야 한다"고 강조했습니다.

정보의 홍수와 알고리즘 기업의 책임

하라리는 정보의 홍수와 SNS의 부작용에 대해서도 지적했습니다. 그는 "정보는 진실이 아니다. 전 세계 정보 중 진실은 굉장히 작은 부분을 차지하고, 대부분은 허구나 환상, 거짓"이라며, 알고리즘을 만든 기업이 이러한 부작용에 대한 책임을 져야 한다고 주장했습니다.

AI 주도권과 국제 협력의 필요성

미국과 중국 중 어느 국가가 AI 주도권을 가져가는 것이 더 좋을 것 같냐는 질문에 하라리는 "둘 다 안 된다"고 답했습니다. 그는 "AI를 가진 나라와 갖지 않은 나라의 간극은 증기기관의 차이보다 더 크다"며, 인류를 위해 몇 개 국가가 AI를 독점하면 안 되며, 작은 국가들이 협력해야 한다고 덧붙였습니다.

청년 세대에 대한 조언과 AI 개발의 방향성

AI 시대를 맞이한 청년 세대에게 하라리는 앞으로 어떤 세계가 될지 모르기 때문에 계속 공부하고 유연성을 기르라고 조언했습니다. 또한 지적 역량, 감성적 역량, 운동 역량을 두루 키울 것을 권했습니다. 그는 "AI를 개발할 때 권력 투쟁에 기반하면 악마가 되겠지만, 진실에 기반하면 더 나은 AI가 될 것"이라고 당부했습니다.