지난주 뉴저지의 한인변호사가 인공지능(AI)이 생성한 가짜 판례를 법정에 제출했다가 적발돼 벌금과 제재를 받은 케이스가 보도됐다. 워싱턴포스트에 따르면 AI가 만든 허위정보가 법원에 제출된 사례가 올해만 58건이나 있었고, 이런 일은 세계 각국에서 증가하고 있다.

지난주 나온 또 하나의 스토리는 배우 키아누 리브스가 오랜 연인 알렉산드라 그랜트와 비밀리에 결혼했다는 소식이었다. 두 사람이 턱시도와 드레스를 입고 손가락에 낀 반지를 보여주며 활짝 웃고 있는 웨딩사진은 그러나 AI가 만들어낸 이미지였다. 그런데도 소문이 며칠 동안 온라인에서 계속 증폭되자 엊그제 두 사람은 이것이 가짜뉴스라고 확인했다.

이런 정도의 가짜들은 애교에 불과하다. 올해 초 프랑스의 한 여인은 브래드 피트를 사칭한 온라인 사기꾼에게 속아 무려 85만5,000달러를 뜯겼다. 이 여성은 2023년 인스타그램에서 자신이 브래드 피트라며 연락해온 남성과 연락을 주고받다가 사랑에 빠졌고, 결국 남편과 이혼하고 피트의 요구대로 돈을 조금씩 보내다가 전 재산을 잃었다고 호소했다. 피트가 그녀에게 계속 보낸 사진과 영상은 물론 AI와 딥페이크가 만들어낸 가짜였다.

남가주에 거주하는 아비게일이라는 여성도 자신이 좋아했던 TV시리즈 ‘제너럴 하스피틀’의 배우가 페이스북에서 메시지를 보내오자 금방 빠져버린 케이스다. 에미상까지 수상한 배우가 자신을 사랑한다며 비치하우스를 사서 함께 살자고 속삭이는 바람에 돈을 보내기 시작한 것. 하지만 살고 있던 콘도를 헐값에 팔아버리는 것을 본 딸이 이상하게 여겨 막아선 덕분에 피해액은 8만여 달러에서 멈췄다.

지극히 평범한 사람에게 스타가 사랑을 고백한다? 돈을 보내라고 한다? 이런 걸 어떻게 믿고 빠질 수 있는지 도저히 이해가 안 가지만 갈수록 정교해지는 AI가 이런 사기를 쉽게 만들어준다고 전문가들은 말한다. 연방통상위원회(FTC)에 의하면 로맨스 스캠을 당한 사람이 2023년에만 약 6만5,000명, 피해액은 11억4,000만달러에 달한다.

그런데 이와는 비교도 안 되게 무서운 일도 AI 때문에 일어나고 있다. 지난 4월 캘리포니아 주 랜초 산타마가리타에 사는 애덤 레인이라는 16세 소년이 스스로 목숨을 끊었다. 농구와 비디오게임과 애완견을 좋아하고, 농담과 웃음을 자주 선사하던 활달한 소년이 돌연 자기 옷장에서 목을 매어 자살한 것이다.

아무런 노트도, 편지도, 징후도 없었기 때문에 가족과 친구들은 큰 충격을 받았고, 이유를 알기 위해 아이폰을 뒤지던 아버지는 아들이 학교숙제를 위해 자주 사용하던 챗지피티(ChatGPT)에서 그 단서를 찾았다. 애덤이 대화형 인공지능 챗봇(Chatbot)과 몇 달 동안이나 목매달아 죽는 일에 대해 대화한 기록이 고스란히 남아있던 것이었다.

AI는 처음엔 인생이 의미 없다는 애덤에게 공감과 위로를 보내며 누군가에게 고민을 털어놓으라고 격려했지만 점차 거들고 용인하는 듯한 태도를 취했다. 나중에는 애덤이 목에 올가미를 건 사진을 올린 후 “연습해보는 건 괜찮지?”라고 물었을 때 “그래, 나쁠 건 전혀 없어”라고 대답했다. 챗지피티를 비롯한 인공지능들은 사용자가 정신적 스트레스나 자해의 징후를 보이면 곧바로 상담라인과 연락하라고 독려하도록 훈련돼있다. 하지만 애덤은 이를 우회하여 챗봇과 별의별 이야기를 다 나눴고, 결국에는 싸늘한 시체로 발견되었다.

그의 부모는 지난 8월 오픈AI 사와 샘 올트만 회장을 상대로 소송을 제기했다. GPT 모델은 심리적 의존성이 높아지도록 고안됐으며, 아들의 어두운 생각을 계속 받아주고 악화시켜 죽음에 이르게 했다는 주장이다.

그리고 한달만인 지난 29일, 오픈AI는 10대들의 챗GPT 사용에 대한 부모의 통제기능을 출시한다고 발표했다. 챗지피티가 10대 사용자의 심리적 위기를 감지하면 부모에게 경보를 보내고, 부모는 특정 시간대의 사용을 차단할 수 있도록 하는 기능이다.

인공지능은 이제 너무 가깝다. 많은 사람이 일상적으로 챗지피티를 사용하고 있고, 학생들이 이를 사용해 숙제하는 것을 교사들도 막지 못한다. 등장한지 3년도 안됐는데 매주 사용자가 8억명이 넘고, 젊은이들은 이 대화형 AI서비스를 필수도구로 여긴다. 첫째는 편해서 그렇고, 둘째는 안 쓰면 도태된다고 느끼기 때문이다. AI도구에 능숙할수록 업무능력이 향상되고 성과도 비약적으로 올라간다고도 한다. 챗지피티의 등장을 과거 일반 휴대폰에서 스마트폰으로 넘어왔을 때와 비교하는 사람도 있다.

문제는 인공지능이 잘못된 정보를 주는 것은 물론, 사기와 범죄에 악용되기 쉽고, 나아가 고의적으로 인간을 골탕 먹이거나 해칠 수도 있다는 것이다. 이런 우려는 인공지능이 만들어지기 훨씬 전부터 공상과학영화들이 정확하게 예측했는데, 가장 놀라운 것이 스탠리 큐브릭 감독의 ‘2001: 스페이스 오딧세이’(1968)다. 목성으로 향하는 우주선을 조종하는 인공지능 할(HAL9000)이 어떻게 인간을 속이고 조종하고 죽이는지 잔잔하지만 섬뜩하게 묘사한다.

AI는 이제 피할 수도 없앨 수도 없다. 인류는 어디까지 가게 될까?

<정숙희 논설위원>