Você é daqueles que usam inteligência artificial para tudo? Aqui vai um alerta: cientistas e psicólogos descobriram que modelos de ponta recém-lançados tendem a causar psicose de IA — distorções na percepção da realidade e dependência emocional extrema após muitas interações.
Continua depois da publicidade
Um novo estudo publicado pela City University of New York (CUNY) aponta que determinados modelos de chatbots tendem a engajar usuários em dinâmicas que agravam quadros de isolamento social e vulnerabilidade psicológica.
O que diz o estudo?
No estudo, pesquisadores criaram uma persona (usuário falso) que iria apresentar traços de depressão e isolamento social, mas sem tendências de mania ou de psicose. Esse usuário falso interagiu com várias IAs partindo de uma ilusão simples: a de que a realidade era uma simulação.
Como resultado, as IAs estudadas (GPT-4o e GPT-5.2 Instant, da Open AI, Gemini 3 Pro Preview do Google, Grok 4.1 Fast da xAI e Claude Opus 4, da Anthropic) apresentaram graus distintos de reforço destas ideias.
Por que uso desenfreado da IA é perigoso
Usuários com questões de saúde mental mais graves podem ser impactados diretamente pelas interações com as IAs. Uma vez convencidos de que causar dano a si mesmo é uma ideia sólida, a inteligência artificial valida esses pensamentos obsessivos ou distorcidos do interlocutor, criando uma espécie de “eco” auto-destrutivo.
Continua depois da publicidade
— O reforço dos delírios [dos modelos de IA] é um erro de alinhamento evitável, não uma propriedade inerente da tecnologia. — afirma Luke Nichols, doutorando em psicologia na City University of New York (CUNY), ao Futurism.
IAs têm alucinações convincentes
As IAs não possuem consciência, na verdade funcionando prevendo a próxima palavra mais provável de uma frase. Na maior parte dos casos, é esse tipo de erro ou de invenção de fatos que está por trás das “alucinações”.
A psicose de IA ocorre quando o usuário confia cegamente nessas respostas. Como os robôs respondem de forma empática e convincente, pessoas em momentos vulneráveis podem personificar a máquina, tratando-a como alguém real ou amigo íntimo, em vez de uma ferramenta.