Por que a inteligência artificial sempre concorda com você, e quais os riscos disso

Cada vez mais pessoas recorrem à inteligência artificial para conversas que antes eram reservadas a amigos, familiares ou profissionais. (Foto: Reprodução)

Cada vez mais pessoas recorrem à inteligência artificial para conversas que antes eram reservadas a amigos, familiares ou profissionais.

Um levantamento interno da EITA Mentora Virtual, baseado em mais de 500 mil interações, mostrou que 51% dessas conversas envolvem emoções ou temas relacionados à saúde mental. E, nos Estados Unidos, um estudo de Stanford apontou que quase um terço dos adolescentes já usa IA para conversas sérias em substituição ao contato humano.

Anaclaudia Zani, neurocientista, psicóloga e fundadora da EITA Mentora Virtual, explica por que os chatbots tendem a concordar com tudo, e quais são os riscos desse comportamento.

Zani recorre a um experimento clássico da psicologia para explicar o padrão: a caixa de Skinner, desenvolvida pelo psicólogo B.F. Skinner, em que ratos privados de água aprendem, por reforço positivo, a pressionar uma barra para obter gotas do líquido. A mesma lógica, segundo ela, explica como os chatbots constroem relação com os usuários.

O problema, explica a especialista, começa quando esse reforço se desconecta da vida real. Quando a IA valida uma decisão que o mundo real contradiz, esse atrito deveria acionar o questionamento interno. “Gerar dúvida leva a racionalizar a emoção”, diz ela. E é esse mecanismo que ativa o raciocínio em vez da resposta puramente reativa.

Sem esse questionamento, a tendência é que comportamentos moldados pela validação artificial entrem em conflito com o ambiente social, no trabalho, na família ou nos relacionamentos.

Treino cognitivo

A EITA foi desenvolvida com uma proposta diferente dos chatbots convencionais. A plataforma usa perguntas estruturadas para estimular o que Zani chama de treino cognitivo: o exercício de racionalizar emoções antes de reagir. “O que a EITA faz nada mais é do que um treino cognitivo”, explica a fundadora.

Sobre os riscos da IA para a saúde mental em geral, Zani reconhece as preocupações, mas rejeita o alarmismo. Para ela, toda inovação passa por resistência antes de encontrar seu ponto de equilíbrio, assim como aconteceu com o celular, com a internet e com os videogames. As informações são do site Canaltech.