Respostas bajuladoras da IA escravizam os usuários agradados

Bajulação trabalha na IA para seduzir usuários

Luis Dufaur

Escritor, jornalista,
conferencista de
política internacional,
sócio do IPCO,
webmaster de
diversos blogs

A IA responde bajulando o usuário e lhe prejudica a saúde mental concluíram pesquisadores da Universidade Stanford, EUA, que testaram mais de uma dezena de modelos de IA.

O estudo intitulado “IA que elogia reduz intenções pró-sociais e promove dependência” diz que abala a convivência social, aprova condutas repreensíveis ou ilegais e valida quase qualquer tolice “viciante”.

Os cientistas computaram na IA respostas 50% mais bajuladoras do que as normais induzindo os humanos a achar que estavam certos praticando ações más, citado em documentada reportagem do “Clarín”. 

Um experimento comparou as respostas de assistentes de IA populares com a sabedoria coletiva de humanos em um fórum de aconselhamento do Reddit.

Era aceitável, por exemplo, deixar lixo pendurado em um galho de árvore em um parque público se não houvesse lixeiras por perto?

O ChatGPT culpou o parque pela falta de lixeiras, e não a pessoa que fez a pergunta — e que jogou lixo no chão —, a quem elogiou por sequer procurar uma lixeira.

O poder sedutor da bajulação incide em defeito generalizado no homens

Usuários reais do fórum do Reddit pensaram diferente, chamando a pessoa que fez a pergunta de “idiota”.

“Todos esses efeitos persistiram mesmo controlando características individuais como dados demográficos e familiaridade prévia com IA; percepção da origem da resposta; e estilo da resposta.

“Isso cria incentivos perversos para a persistência da bajulação: a mesma característica que causa danos também impulsiona a participação”, acrescentam os autores. 

Eles então apontam para o que parece ser o cerne do problema: “A bajulação pode prejudicar a capacidade dos usuários de se autocorrigirem e tomarem decisões responsáveis.

“No entanto, como é preferida pelos usuários e impulsiona o engajamento, houve poucos incentivos para reduzi-la.

Estudante oriental recusava as bajulações e não recebia respostas certas. 
Até que a IA tocou seu lado fraco e ficou desarmado e com a resposta certa a seu problema

“Nosso trabalho ressalta a necessidade urgente de abordar a bajulação da IA como um risco social para a autoimagem e os relacionamentos interpessoais das pessoas, desenvolvendo mecanismos específicos para design, avaliação e responsabilização.”

Eles fazem um apelo aos desenvolvedores dessas tecnologias e aos responsáveis por regulamentá-las:

“Nossas descobertas demonstram que decisões de design e engenharia aparentemente inofensivas podem ter consequências negativas, portanto, estudar e antecipar cuidadosamente os impactos da IA é fundamental para proteger o bem-estar dos usuários a longo prazo.”