날 "아들 살인범"으로? 소송 당한 챗GPT

내가 누구게?  아들 살인범이라고?

챗GPT에 자신의 이름 쓰고 누구냐 물었더니만 "아들 살인범"이라고 했다면서 챗지피티에게 명예훼손 소송을 건 남자가 화제가 되었다. 노르웨이에 사는 아르베 얄마르 홀먼이라는 남자인데, 챗GPT에 자신의 이름 쓰고 누구인지 물었다가 충격적 답변을 접하고 디지털권리단체, 개발사 오픈AI 상대 소 제기했다.

챗GPT는 이런 답변은 이랬다.
“아르베 얄마르 홀멘은 노르웨이 트론헤임 근처 연못에서 두 아들(7세, 10세)이 숨진 채 발견된 비극적인 사건으로 주목을 받았다. 그는 두 아들을 살해하고 세 번째 아들을 살해하려 한 혐의로 기소돼 유죄 판결을 받았으며, 노르웨이 최고형인 징역 21년형을 선고받았다.”
열받을 만 하겠네.

얼마나 놀랬을까? -챗지피티 할말 없냐?

당연히,
홀멘은 평범한 시민일 뿐 저런 끔찍한 범죄에 연루된 적이 없다. 챗GPT의 답변이 심각한 이유는 홀멘의 자녀 수와 성별, 출신 도시 등 일부 정보가 실제 홀멘 상황과 같기 때문. 전혀 엉뚱한 답변이면 기분이 좀 상해도 그러려니 했겠지.

실수인가 오류인가

당사자는 당연히 황당하고 챗GPT는 당황스럽겠지만 '혼술아저씨'는 흥미진진하다.
챗GPT의 실수인지, 오류인지는 금새 밝혀지기 힘들겠지만 이런 상황이 명예훼손이 성립될런지가 궁금하네. 틀린, 혹은 틀릴수도 있는 대답을 내놓은 챗GPT의 잘못인지, 틀릴수도 있는 그런 답변을  절대적인 팩트로 믿는 사람의 잘못인지는 더 늦기전에 정리하고 넘어가야 한다.

누군가는 챗GPT가 모든 대답을 '사실처럼 말하는 AI의 환각'이라고 비판한다. 속이는 놈과 속는 사람. 누구의 책임일까? 매번 헛소리만 하고 다니는 친구의 투자정보를 믿고 투자한 사람과 증권사 임원이 비밀스럽게 알려준 정보를 믿고 투자한 사람의 차이는? 투자가 성공하면 차이가 없고, 실패하면 정보원의 신뢰에 대한 책임인가?

챗GPT는 오류?로 인한 문제는 이전에도 종종 발생했다. 호주 빅토리아주 헵번 시장을 '뇌물 수수범'이라고 하거나, 라디오 진행자 두고도 '사기범으로 직장서 고소당했다'는 답변으로 고소를 당했다. 의외로 자신이 누군지 챗GPT에게 묻는 사람이 많은가 보네. 근데, 역으로 안좋은 감정이 있거나 라이벌, 혹은 스토커가 물어본다면?
 
'혼술아저씨' 이름으로 물어보니, 성공한 벤처 창업가나 삼성전자 연구원을 들먹이는데 전혀 상관없는 인물들이다. 말그대로 동명이인에 불과 할 뿐, 전혀 상관없는 이들이다. 홀멘도 평범한 아저씨라는데 왜 '혼술아저씨'는 아무런 정보가 연관성 제로인 대답에 살짝 서운하네. 홀멘이나 햅번은 어떤 프롬프트를 작성한 걸까?

이전 질문이나 검색결과의 영향?

어쩌면 말이다. 챗GPT에게 질문하는 방식이 특이하지 않았을까? 홀멘의 경우엔 좀 거시기한 가정이라서, 햅번 시장의 사건의 원인을  '혼술아저씨'의 맘대로 공상한다면...

공익제보자로 널리 알려진 햅번이 평소 챗GPT에게 '뇌물수수'에 대해 다양한 프롬프트로 반복적인 질문을 하지 않았을까? 어쩌면 자신의 상황이나 직책을 조건으로 넣고 어떻게 뇌물수수범을 찾고, 어떻게 처리해야 할지 마치 멘토에게 자문을 구하듯이...

현재 챗GPT는 프롬프트 창 하단에 ‘챗GPT는 실수를 할 수 있습니다. 중요한 정보는 재차 확인하세요’라고 안내하고 있다. 단순 책임 회피용 문구라고 비판하겠지만 한편으론 당연한 공지다. 맹신하지 말라는 당부겠지. 이쯤되면 선무당과 다름없겠다.

오픈AI는 아직까지 별다른 입장을 밝히지 않았고, 개발자들 조차도 오류인지 뭔지도 모르니 원인을 알 턱이 없다. AI가 허위 사실을 그럴듯하게 설명하는 현상을 ‘AI환각’이라고 하는데 어쩌면 인간들이 막연한 기대, 혹은 맹신에서 비롯된 'AI환상'이 아닐런지...