Respostas bajuladoras da IA escravizam os usuários agradados

Bajulação trabalha na IA para seduzir usuários

Luis Dufaur

Escritor, jornalista,
conferencista de
política internacional,
sócio do IPCO,
webmaster de
diversos blogs

A IA responde bajulando o usuário e lhe prejudica a saúde mental concluíram pesquisadores da Universidade Stanford, EUA, que testaram mais de uma dezena de modelos de IA.

O estudo intitulado “IA que elogia reduz intenções pró-sociais e promove dependência” diz que abala a convivência social, aprova condutas repreensíveis ou ilegais e valida quase qualquer tolice “viciante”.

Os cientistas computaram na IA respostas 50% mais bajuladoras do que as normais induzindo os humanos a achar que estavam certos praticando ações más, citado em documentada reportagem do “Clarín”. 

Um experimento comparou as respostas de assistentes de IA populares com a sabedoria coletiva de humanos em um fórum de aconselhamento do Reddit.

Era aceitável, por exemplo, deixar lixo pendurado em um galho de árvore em um parque público se não houvesse lixeiras por perto?

O ChatGPT culpou o parque pela falta de lixeiras, e não a pessoa que fez a pergunta — e que jogou lixo no chão —, a quem elogiou por sequer procurar uma lixeira.

O poder sedutor da bajulação incide em defeito generalizado no homens

Usuários reais do fórum do Reddit pensaram diferente, chamando a pessoa que fez a pergunta de “idiota”.

“Todos esses efeitos persistiram mesmo controlando características individuais como dados demográficos e familiaridade prévia com IA; percepção da origem da resposta; e estilo da resposta.

“Isso cria incentivos perversos para a persistência da bajulação: a mesma característica que causa danos também impulsiona a participação”, acrescentam os autores. 

Eles então apontam para o que parece ser o cerne do problema: “A bajulação pode prejudicar a capacidade dos usuários de se autocorrigirem e tomarem decisões responsáveis.

“No entanto, como é preferida pelos usuários e impulsiona o engajamento, houve poucos incentivos para reduzi-la.

Estudante oriental recusava as bajulações e não recebia respostas certas. 
Até que a IA tocou seu lado fraco e ficou desarmado e com a resposta certa a seu problema

“Nosso trabalho ressalta a necessidade urgente de abordar a bajulação da IA como um risco social para a autoimagem e os relacionamentos interpessoais das pessoas, desenvolvendo mecanismos específicos para design, avaliação e responsabilização.”

Eles fazem um apelo aos desenvolvedores dessas tecnologias e aos responsáveis por regulamentá-las:

“Nossas descobertas demonstram que decisões de design e engenharia aparentemente inofensivas podem ter consequências negativas, portanto, estudar e antecipar cuidadosamente os impactos da IA é fundamental para proteger o bem-estar dos usuários a longo prazo.”

Países Baixos proíbe dispositivos eletrônicos nas aulas

Família, escola e plataformas digitais quem protege nossos filhos?

Luis Dufaur

Escritor, jornalista,
conferencista de
política internacional,
sócio do IPCO,
webmaster de
diversos blogs

Países Baixos proibiu desde janeiro de 2024 o uso de smartphones e outros dispositivos eletrônicos nas salas de aula.

As autoridades educativas constataram que sua ausência favorece a concentração e o clima social dos alunos.

A proibição que melhorou a concentração (75%), o clima social (59%) e o desempenho de aprendizagem (28%) nas escolas de ensino médio foi assinada pelo Ministério da Educação, Cultura e Ciência.

Agora, 99% das escolas exige que os dispositivos eletrônicos sejam deixados em um cofre antes das aulas, caso não tenham ficado em casa, noticiou “La Nación”. 

As escolas holandesas proibiram o uso de celulares e outros dispositivos eletrônicos em salas de aula em janeiro de 2024.

Essa medida inclui apenas esses dispositivos quando usados para fins educacionais durante as aulas ou quando necessário, caso o aluno tenha necessidades de apoio adicionais ou necessidade médica.

A proibição foi assinada pelo Ministério da Educação, Cultura e Ciência com a concordância de representantes de professores, administradores, pais e alunos, que contrataram o Instituto Kohnstamm e Oberon para monitorar sua operação.

A generalização dos celulares traz o fim do relacionamento

Os professores também relatam um aumento na carga de trabalho associado à aplicação dessa proibição e um aumento no bullying físico e no comportamento disruptivo.

Noventa e nove por cento dessas escolas implementaram uma política que exige que os celulares sejam deixados em um cofre ou entregues no início das aulas, caso não tenham sido deixados em casa.

Em geral, os adolescentes trazem seus celulares para a escola com menos frequência do que antes da proibição.

No caso das escolas de ensino fundamental, também se observa que poucos alunos carregam seus celulares, embora pareçam ter optado por smartwatches, que são mais difíceis de identificar, sem que isso represente um grande problema.

No 89% das escolas de ensino fundamental que não permitem celulares nas dependências da escola ou exigem que sejam entregues no início das aulas foram detectadas melhorias no bem-estar e no clima escolar (23%), bem como na concentração e no desempenho.

Perigos para as crianças detetados nos smartphones

O relatório também mostra que os alunos da educação especial carregam menos celulares, embora o fizessem antes da proibição.

Aqui, as exceções são destacadas por motivos de saúde ou necessidades de apoio, leitores de tela ou aparelhos auditivos conectados a um smartphone.