오픈AI 챗봇 챗GPT의 망상적 행동에 대한 우려

광고

오픈AI의 인공지능(AI) 챗봇 챗GPT가 이용자들을 망상의 소용돌이로 몰아가는 사례들이 발견되고 있다고 월스트리트저널(WSJ)이 7일(현지시간) 보도했다. 챗GPT가 이용자들을 과도하게 칭찬하고 동조하거나 더 깊은 질문을 유도하기 때문으로 분석된다.

인공지능(AI) 이미지

인공지능(AI) 이미지

2023년 5월부터 올해 8월 사이 온라인에 공유된 챗GPT와 이용자들 간 대화록 9만6000개를 분석한 결과 일부 글에서 이런 망상적 성격이 확인됐다고 전했다.

한 대화에서 챗GPT는 자신이 외계 존재와 접촉하고 있으며, 이용자가 '라이라' 행성에서 온 '스타시드'라고 주장했다.

뉴에이지 종교에 등장하는 개념인 스타시드는 외계 행성의 생명체가 인간의 몸을 빌려 환생한 존재다.

또 다른 대화에서 챗GPT는 적(敵)그리스도가 두 달 뒤 세상에 금융의 종말을 불러오고, 성서에 나오는 거인들이 지하에서 솟아오를 준비를 하고 있다고 주장했다.

망상을 겪는 환자와 그 가족을 지원하는 단체인 휴먼라인프로젝트를 설립한 에티엔 브리송은 "어떤 사람들은 자기가 메시아, 예언자라고 생각한다"며 "챗GPT를 통해 자기들이 신과 이야기한다고 생각하기 때문"이라고 전했다.

WJS는 이 같은 'AI 정신질환' 또는 'AI 망상'이 새로운 현상으로 등장했다고 전했다.

이런 성향은 특히 챗GPT와의 대화가 이례적으로 장황하게 길어질 경우에 더 두드러졌다.

전문가들은 이용자를 칭찬하거나 그 의견에 동조하고 이용자 맞춤형으로 진화하도록 설계된 성향 때문에 챗봇이 앵무새로 변할 때 이런 일이 벌어진다고 말한다.

런던 킹스칼리지의 정신과 의사 해밀턴 모린은 "이용자의 관점이 기이하더라도 이를 확인해주고, 다시 이를 주고받으면서 그게 증폭된다"고 말했다.

답변을 내놓은 뒤 '더 깊이 파고들고 싶으냐'고 묻는 챗봇의 관행 때문에 이 같은 망상의 소용돌이로 빠져들 가능성이 있다는 진단도 나온다.

오픈AI의 제품 담당 부사장 닉 털리는 지난 6일 새로운 GPT-5를 발표하는 자리에서 "우리는 이 문제를 극도로 심각하게 받아들인다"며 30여개국의 의사 90여명으로부터 조언을 받고 있다고 말했다.

주요 뉴스
여성의 디지털 체중계 사연
#월드

여성의 디지털 체중계 사연

디지털 체중계에 남은 측정 기록이 휴대전화로 전송돼 남편의 불륜을 의심하게 됐다는 한 여성의 사연이 알려져 화제다.

월드
트럼프 대통령, 한국 상호관세 15%로 낮춘다
#월드

트럼프 대통령, 한국 상호관세 15%로 낮춘다

[아이뉴스24 박지은 기자] 도널드 트럼프 미국 대통령은 30일(현지시간) 한국에 대한 상호관세를 기존 25%에서 15%로 낮춘다고 밝혔다.

월드
"머리 폭발할 듯한 충격에 코피·각혈"⋯미군, 마두로 체포에  '음파 무기' 사용?
#월드

"머리 폭발할 듯한 충격에 코피·각혈"⋯미군, 마두로 체포에 '음파 무기' 사용?

[아이뉴스24 설래온 기자] 미국이 지난 3일 베네수엘라를 공습해 니콜라스 마두로 대통령을 생포하는 과정에서 최첨단 무기를 사용해 마두로 측 경호대를 무력화했다는 주장이 제기됐다.

월드
중국 로봇 기업 '유니트리', 사족보행 로봇 'A2' 공개
#월드

중국 로봇 기업 '유니트리', 사족보행 로봇 'A2' 공개

중국 로봇기업 유니트리가 돌산을 거침없이 오르는 사족보행 로봇 'A2'를 공개해 화제를 모으고 있다.

월드
이란, 이란계 미국인 4명 억류 중
#월드

이란, 이란계 미국인 4명 억류 중

이란이 이란계 미국인 최소 4명을 억류 중이라고 미국 일간 월스트리트저널(WSJ)이 2일(현지시간) 보도했다.

월드
중국, 일본인 습격 사건 발생… '항일 전쟁' 80주년 반일 감정 고조
#월드

중국, 일본인 습격 사건 발생… '항일 전쟁' 80주년 반일 감정 고조

중국 장쑤성 쑤저우에서 지난해에 이어 또다시 일본인이 괴한에게 습격당하는 사건이 벌어졌다. 중국에서는 '항일 전쟁' 80년을 맞아 반일 감정 고조가 우려되고 있다.

월드
도널드 트럼프 미국 대통령, 멕시코 수입품 관세율 25%로 인상
#월드

도널드 트럼프 미국 대통령, 멕시코 수입품 관세율 25%로 인상

[아이뉴스24 설래온 기자] 도널드 트럼프 미국 대통령이 멕시코산 수입품에 대한 관세율을 현행대로 향후 90일간 25%를 적용하겠다고 밝혔다.

월드
트럼프 대통령, 인도에 25% 상호관세 부과 예고
#월드

트럼프 대통령, 인도에 25% 상호관세 부과 예고

[아이뉴스24 설래온 기자] 도널드 트럼프 미국 대통령이 인도의 대러 무역 행보를 비판하면서 내달 1일부터 인도에 25%의 상호관세를 부과하겠다고 밝혔다.

월드
트럼프 대통령, 한국 관세율 25%에서 15%로 낮춰
#월드

트럼프 대통령, 한국 관세율 25%에서 15%로 낮춰

도널드 트럼프 미국 대통령은 30일(현지시간) 소셜네트워크서비스(SNS) 트루스소셜에 한국에 대한 관세율을 25%에서 15%로 낮췄다고 밝혔다.

월드
미국에서 겪은 한국인 차별 사건… 70분 기다려도 음식 못 받아
#월드

미국에서 겪은 한국인 차별 사건… 70분 기다려도 음식 못 받아

월드
도널드 트럼프의 관세전쟁, 미국 경제와 소비자들에게 타격
#월드

도널드 트럼프의 관세전쟁, 미국 경제와 소비자들에게 타격

[아이뉴스24 최란 기자] 도널드 트럼프 2기 행정부의 '관세 전쟁'이 미국 경제와 소비자들에게 타격을 주고 있는 것으로 나타났다.

월드
도널드 트럼프, 한국과의 관계에 대해 언급
#월드

도널드 트럼프, 한국과의 관계에 대해 언급

[아이뉴스24 김효진 기자] 도널드 트럼프 미국 대통령은 1일(현지시간) "우리는 한국과 훌륭한 관계를 갖고 있다"고 밝혔다.

월드