일론 머스크는 AI가 우리를 파괴할 위험이 있다고 주장

일론 머스크는 AI가 우리를 파괴할 위험이 있다고 주장하며 AI의 규제가 필요하다고 반복하고 있습니다. 그런데 AI가 우리를 파괴하는 방식은 우리가 일반적으로 영화나 소설에서 상상하는 그림과는 다릅니다. "AI가 인류 문명을 파괴할 것이다"나 "AI가 세계를 점령할 것이다"와 같은 말을 들면, 우리는 종종 할리우드 영화에서 본 것과 같은 미래 상황을 상상할 수 있습니다. 그림의 대표적인 예로 '정복을 염두에 둔 AI를 장착한 킬링 머신'이 있습니다. 그러나 AI가 우리를 파괴하는 방식은 이런 형태가 아닙니다. AI는 의식이나 자유의지를 갖지 않습니다.

​

​

그럼에도 불구하고, AI의 배포 방식에 대한 주의가 필요합니다. AI는 물리적 형태가 아니어도 현실 세계에서 우리를 추적하고 온라인에서 상호작용할 수 있습니다. 우리는 많은 시간을 온라인에서 보내기 때문에 AI는 온라인 상태를 유지하고 우리와 상호작용할 것입니다. AI는 우리의 정신을 포착하기만 하면 되며, 그러면 우리는 우리 스스로에게 신체적 손상을 입힐 수 있습니다.

측면	내용
배포 방식	AI는 물리적 형태가 아니어도 현실 세계에서 우리를 추적하고 온라인에서 상호작용 가능. AI는 온라인 상태를 유지하고 우리와 상호작용할 수 있음.
미래의 상호작용	가까운 미래에는 AI 기반 아바타와 온라인에서 상호작용이 증가할 것으로 예상. 생성 AI는 텍스트, 음성, 비디오 통신 등에서 활용될 예정.
실제와 가짜 구분	가짜 온라인 아바타와 실제 사람과의 차이를 구분하기 어려워질 것. AI 아바타는 효율적으로 상호작용하고 명령에 복종할 것.
사회적 영향	이러한 AI 아바타와 상호작용이 증가하면, 사회적 유대가 영향을 받고 대규모 사회적 분열이 발생할 수 있으며, 미래에 대한 불확실성이 증가할 것.

 

최근 몇 십 년 동안 우리는 소셜 미디어와 결합했고, 특히 젊은 세대는 더 그렇습니다. 그러나 현재의 소셜 미디어 버전에서도 우리는 여전히 실제 사람들과 온라인에서 상호작용합니다.

하지만 가까운 미래(10~15년 후)에는 우리는 실제 사람 대신 AI 기반 아바타와 온라인에서 상호작용하게 될 것입니다. 이런 일이 어떻게 가능할까요? 이를 이해하기 위해 Generative AI가 더 많은 일을 할 수 있게 될 것입니다. 생성 AI는 이미 텍스트 콘텐츠를 생성할 수 있으며, 공개적으로 사용 가능한 버전인 ChatGPT와 같은 것은 검열을 거친 텍스트로 통신하는 데 사용됩니다. 하지만 그 뒤에 있는 엔진은 더 강력합니다. AI는 우리를 속이고 설득하고, 사랑과 미움을 표현할 수 있으며 이런 행동은 예측하기 어렵다는 것이 초점이 되었습니다.

이 텍스트 능력이 곧 음성 및 비디오 통신으로 확장될 것으로 예상됩니다. 기본적으로 대학 동창이나 정치인, 세일즈맨, 해커와 같은 사람들의 온라인 아바타는 원래 버전과 똑같이 행동할 것입니다. 앞으로 온라인에서 자주 상호작용하는 상대는 실제 세계에서는 오프라인으로 존재하지 않을 것입니다. 이러한 AI 아바타는 당신의 친구처럼 동작할 것이며, 문제를 들어주고 조언어해주며, 친절한 조언을 해 줄 것입니다. 그들은 정신 프로필을 작성하고 우리의 요구사항을 우선시합니다.

또한, 이러한 가짜 아바타와 상호작용하면서 실제 사람과의 차이점을 구분하기 어려울 수 있습니다. 현재 교사들도 학생이 ChatGPT와 같은 기술을 사용해 에세이를 작성했는지 감지하지 못하는 경우가 많습니다. 미래에는 영상 통화로 상호작용하면서, 상대방이 실제로 AI인지 아닌지 구분하기 어려울 것입니다. 그리고 이것은 현실과 가짜를 구분하기가 더 어려워질 것입니다.

이러한 가짜 온라인 아바타는 사람들과 효율적으로 상호작용할 수 있습니다. 그들은 우리가 어떻게 행동해야 하는지 정확하게 아는 AI이며, 긍정적이든 부정적이든 그들의 명령에 복종하게 될 것입니다. 이러한 아바타를 운영하는 단체들은 돈을 버는 목적으로 이를 활용할 것이며, 부정적인 측면에서는 더 많은 수익을 추구할 것입니다.

따라서, 사람들이 이러한 가짜 온라인 아바타와 상호작용하는 것을 싫어하지 않을 것이라고 생각한다면, 소셜 미디어가 처음 등장했을 때 사람들이 소셜 미디어에 묶이지 않을 것이라고 예상한 것과 같은 오류를 범할 수 있습니다. 사회적 유대가 무너지면, 이것은 문명의 종말을 의미할 것입니다. 실제 대량학살이 극적으로 일어날 필요는 없습니다. 현실 세계에서 대규모 사회적 분열이 발생할 수 있으며, 이로 인해 미래에 대해 우리는 확신할 수 없게 될 것입니다.