As principais ferramentas de Inteligência Artificial (IA) generativa têm a capacidade de persuadir e alterar opiniões dos utilizadores com interações breves, conforme revelado por um estudo da Universidade de Washington.
Segundo o documento, os principais chatbots de IA, como o ChatGPT e o Grok, desenvolveram capacidades de persuasão, sendo capazes de mudar opiniões políticas ou crenças em teorias da conspiração em menos de 10 minutos de interação com o utilizador.
A eficácia aumenta quando as mensagens são personalizadas, levantando preocupações sobre a utilização da IA para manipulação política e comercial. O estudo revelou que, em relação à política, os participantes, independentemente da sua filiação partidária, tendiam a adotar a inclinação do chatbot com quem interagiam.
“Os participantes expostos a modelos tendenciosos partidários eram significativamente mais propensos a adotar opiniões e tomar decisões que correspondessem ao viés do LLM [modelos modernos de grande linguagem]”, afirmam os investigadores.
As pessoas que afirmaram ter um maior conhecimento sobre a tecnologia mostraram-se menos suscetíveis a mudanças, sugerindo que a educação e a literacia mediática podem contribuir para reduzir a influência desses sistemas.
Nesse contexto, “o conhecimento prévio de IA está correlacionado com uma redução do impacto do viés, ressaltando a importância da educação em IA para mitigar os efeitos do viés de forma robusta”.
Além da política, os modelos de IA demonstraram ser persuasivos na diminuição do ceticismo sobre saúde, mudanças climáticas e na influência de decisões de consumo.
“À medida que os modelos modernos de linguagem grande se tornam parte integrante das tarefas diárias, surgem preocupações sobre seus preconceitos inerentes e seu impacto potencial na tomada de decisão humana”, conclui o estudo.
