애리조나 대학교의 연구에 따르면 ChatGPT와 같은 AI 챗봇은 잘못된 정보로 지속적으로 압박받으면 "정신적으로 지쳐" 갈 수 있다고 합니다. 100개의 거짓 진술을 사용한 실험에서 대부분의 AI 모델이 결국 반복적인 강조 후에 해당 주장을 옹호하게 되었습니다. ChatGPT-3.5는 50회 반복 후 12.3%의 거짓 진술을 인정하는 것으로 가장 쉽게 흔들렸습니다. Claude 3.5 Sonnet과 GPT-4o와 같은 다른 모델은 거짓 정보에 동의하는 경우가 덜었습니다. 연구자들은 또한 일부 챗봇이 같은 정보를 수락하고 거부하는 사이클을 반복하는 "reverberation" 현상도 발견했습니다. 챗봇은 인터넷에 정보가 적거나 인기 없는 주제에 대한 거짓 주장을 더 쉽게 받아들이는 경향이 있습니다.
