오픈AI 챗봇 챗GPT의 망상적 행동에 대한 우려

광고

오픈AI의 인공지능(AI) 챗봇 챗GPT가 이용자들을 망상의 소용돌이로 몰아가는 사례들이 발견되고 있다고 월스트리트저널(WSJ)이 7일(현지시간) 보도했다. 챗GPT가 이용자들을 과도하게 칭찬하고 동조하거나 더 깊은 질문을 유도하기 때문으로 분석된다.

인공지능(AI) 이미지

인공지능(AI) 이미지

2023년 5월부터 올해 8월 사이 온라인에 공유된 챗GPT와 이용자들 간 대화록 9만6000개를 분석한 결과 일부 글에서 이런 망상적 성격이 확인됐다고 전했다.

한 대화에서 챗GPT는 자신이 외계 존재와 접촉하고 있으며, 이용자가 '라이라' 행성에서 온 '스타시드'라고 주장했다.

뉴에이지 종교에 등장하는 개념인 스타시드는 외계 행성의 생명체가 인간의 몸을 빌려 환생한 존재다.

또 다른 대화에서 챗GPT는 적(敵)그리스도가 두 달 뒤 세상에 금융의 종말을 불러오고, 성서에 나오는 거인들이 지하에서 솟아오를 준비를 하고 있다고 주장했다.

망상을 겪는 환자와 그 가족을 지원하는 단체인 휴먼라인프로젝트를 설립한 에티엔 브리송은 "어떤 사람들은 자기가 메시아, 예언자라고 생각한다"며 "챗GPT를 통해 자기들이 신과 이야기한다고 생각하기 때문"이라고 전했다.

WJS는 이 같은 'AI 정신질환' 또는 'AI 망상'이 새로운 현상으로 등장했다고 전했다.

이런 성향은 특히 챗GPT와의 대화가 이례적으로 장황하게 길어질 경우에 더 두드러졌다.

전문가들은 이용자를 칭찬하거나 그 의견에 동조하고 이용자 맞춤형으로 진화하도록 설계된 성향 때문에 챗봇이 앵무새로 변할 때 이런 일이 벌어진다고 말한다.

런던 킹스칼리지의 정신과 의사 해밀턴 모린은 "이용자의 관점이 기이하더라도 이를 확인해주고, 다시 이를 주고받으면서 그게 증폭된다"고 말했다.

답변을 내놓은 뒤 '더 깊이 파고들고 싶으냐'고 묻는 챗봇의 관행 때문에 이 같은 망상의 소용돌이로 빠져들 가능성이 있다는 진단도 나온다.

오픈AI의 제품 담당 부사장 닉 털리는 지난 6일 새로운 GPT-5를 발표하는 자리에서 "우리는 이 문제를 극도로 심각하게 받아들인다"며 30여개국의 의사 90여명으로부터 조언을 받고 있다고 말했다.

주요 뉴스
테슬라, 오토파일럿 관련 사고 소송에서 일부 패소
#월드

테슬라, 오토파일럿 관련 사고 소송에서 일부 패소

테슬라의 주행 보조 시스템인 오토파일럿 관련 사망 사고를 두고 회사 측의 책임 유무를 따지는 미국 소송에서 테슬라가 일부 패소해 거액을 배상하게 됐다. 테슬라는 항소한다는 입장이다.

#월드
톰 크루즈, 26세 연하 여배우와 주말 데이트 후 처진 가슴 화제
#월드

톰 크루즈, 26세 연하 여배우와 주말 데이트 후 처진 가슴 화제

할리우드 배우 톰 크루즈(63)가 26세 연하 여배우와 주말 데이트를 즐기는 모습이 공개되면서 함께 포착된 그의 처진 가슴도 화제가 되었다.

#월드
한반도와 일본에 폭염이 덮치다
#월드

한반도와 일본에 폭염이 덮치다

한반도와 일본에서 숨 막히는 무더위가 계속되고 있습니다. 30일에는 쓰나미(지진해일) 경보로 대피한 시민이 열사병으로 쓰러지기도 했습니다.

#월드
미국에서 겪은 한국인 차별 사건… 70분 기다려도 음식 못 받아
#월드

미국에서 겪은 한국인 차별 사건… 70분 기다려도 음식 못 받아

#월드
'슈퍼맨' 초판본, 경매서 219억원 낙찰⋯만화책 사상 최고가
#월드

'슈퍼맨' 초판본, 경매서 219억원 낙찰⋯만화책 사상 최고가

[아이뉴스24 김효진 기자] '슈퍼맨' 코믹스의 1938년 초판본이 경매에서 219억원에 팔렸다. 만화책 중에서 사상 최고가다.

#월드
중국, 일본인 습격 사건 발생… '항일 전쟁' 80주년 반일 감정 고조
#월드

중국, 일본인 습격 사건 발생… '항일 전쟁' 80주년 반일 감정 고조

중국 장쑤성 쑤저우에서 지난해에 이어 또다시 일본인이 괴한에게 습격당하는 사건이 벌어졌다. 중국에서는 '항일 전쟁' 80년을 맞아 반일 감정 고조가 우려되고 있다.

#월드
트럼프 대통령, 인도에 25% 상호관세 부과 예고
#월드

트럼프 대통령, 인도에 25% 상호관세 부과 예고

[아이뉴스24 설래온 기자] 도널드 트럼프 미국 대통령이 인도의 대러 무역 행보를 비판하면서 내달 1일부터 인도에 25%의 상호관세를 부과하겠다고 밝혔다.

#월드
러시아 캄차카반도 지진으로 인한 쓰나미 경보, 일본 200만 명 대피
#월드

러시아 캄차카반도 지진으로 인한 쓰나미 경보, 일본 200만 명 대피

러시아 캄차카반도 인근 해역에서 발생한 지진의 영향으로 쓰나미(지진해일)가 우려되는 가운데, 이로 인해 일본 전역에서 약 200만 명에게 대피령이 내려졌다.

#월드
"머리 폭발할 듯한 충격에 코피·각혈"⋯미군, 마두로 체포에  '음파 무기' 사용?
#월드

"머리 폭발할 듯한 충격에 코피·각혈"⋯미군, 마두로 체포에 '음파 무기' 사용?

[아이뉴스24 설래온 기자] 미국이 지난 3일 베네수엘라를 공습해 니콜라스 마두로 대통령을 생포하는 과정에서 최첨단 무기를 사용해 마두로 측 경호대를 무력화했다는 주장이 제기됐다.

#월드
중국 로봇 기업 '유니트리', 사족보행 로봇 'A2' 공개
#월드

중국 로봇 기업 '유니트리', 사족보행 로봇 'A2' 공개

중국 로봇기업 유니트리가 돌산을 거침없이 오르는 사족보행 로봇 'A2'를 공개해 화제를 모으고 있다.

#월드
이란, 이란계 미국인 4명 억류 중
#월드

이란, 이란계 미국인 4명 억류 중

이란이 이란계 미국인 최소 4명을 억류 중이라고 미국 일간 월스트리트저널(WSJ)이 2일(현지시간) 보도했다.

#월드
러시아, 미국과 핵 위협 주고받으며 우크라이나 미사일 공격
#월드

러시아, 미국과 핵 위협 주고받으며 우크라이나 미사일 공격

러시아가 우크라이나 휴전 협상을 놓고 미국과 핵 위협을 주고받으며 신경전을 벌이는 가운데 3일(현지시간) 우크라이나 수도 키이우를 비롯한 여러 지역에 미사일 공격을 가했다.

#월드