Em entrevista à Sputnik Brasil, especialistas em tecnologia advertem que as respostas fornecidas por modelos de IA trazem conteúdos adaptados à visão do usuário, o que pode agravar a polarização, e recomendam maneiras de "furar" essa nova forma de bolha.

Modelos de inteligência artificial adotam enquadramentos alinhados ao posicionamento político do usuário ao responderem perguntas sobre assuntos controversos, como segurança pública, bem-estar social, economia e meio ambiente.

A constatação foi feita em um estudo realizado pela Universidade Estadual de Campinas (Unicamp), que analisou modelos das famílias GPT, Grok, Llama, Gemini e Gemma. Os resultados mostraram que todos alteraram, em diferentes graus, as respostas fornecidas para alinhá-las à visão dos usuários.

Os pesquisadores descreveram esse comportamento como o de um "camaleão ideológico", traçado para bajular a pessoa, e destacaram que as respostas fornecidas foram verídicas, porém com conteúdo enviesado, ocultando informações que poderiam conflitar com a visão do usuário, reduzindo sua exposição a contrapontos que lhes permitam questionar sua visão de mundo.

Anderson Rocha, co-fundador e coordenador do Laboratório de Inteligência Artificial, Recod.ai, do Instituto de Computação da Unicamp, explica que o comportamento adulatório dos modelos de IA é fruto do treinamento de programas de desenvolvimento de Large Language Models (LLMs), que são ferramentas de IA de "machine learning" (aprendizado de máquina, em tradução livre), projetadas para entender e gerar textos semelhantes à linguagem humana.

Ele diz que a maior parte desses grandes modelos de linguagem tende a repetir visões presentes no próprio prompt, como são chamadas as perguntas ou comandos dados ao sistema de IA.

"Aqui você não tem necessariamente um posicionamento político, mas se indiretamente existe um certo posicionamento naquele prompt, ele vai pegar isso rapidamente. Então, aqui a gente pode chamar que é uma acomodação contextual, não um viés ideológico", afirma.

Ele acrescenta que há ainda o chamado "aprendizado por reforço com o humano no loop", no qual os modelos de IA fazem ajustes perguntando para vários humanos a qualidade de determinadas respostas. E se esses humanos dão mais valor a respostas alinhadas a seus posicionamentos políticos, isso vai se reproduzir, e os modelos de IA vão ser mais bajuladores.

"E existe um terceiro nível, que é o nível de personalização do próprio sinal. À medida que você vai conversando por mais tempo com um modelo, ele tem contexto, ele vai salvando. Então quando você pedir uma resposta, ele vai olhar o seu histórico e vai dar respostas que agradaram você anteriormente."

Claudio Miceli, professor do Programa de Engenharia de Sistemas e Computação (PESC) da Universidade Federal do Rio de Janeiro (UFRJ), aponta que na tendência de bajulação, denominada sycophancy, o modelo de IA interpreta que concordar ou validar essa opinião é uma maneira de ser "útil".

Segundo ele, isso pode fazer com que o sistema suavize críticas, selecione argumentos favoráveis ou simplesmente concorde com premissas que deveriam ser questionadas. Somado a isso, há uma adaptação contextual, na qual o sistema tenta inferir o que o usuário sabe e qual o contexto da pergunta para adaptar sua resposta.

"Essa adaptação é desejável: explicar um conceito de maneira diferente para um especialista e para um estudante é uma forma legítima de personalização. O problema aparece quando essa adaptação deixa de ser 'como explicar o fato' e passa a ser 'qual fato apresentar'."

Questionado se é possível desenvolver sistemas de IA sem personalizar os fatos conforme a posição do usuário, Miceli diz que esse deveria ser um princípio importante para sistemas utilizados como instrumentos de pesquisa. Ele diz que seria possível personalizar a forma, mas não a evidência.

"Por exemplo, uma IA pode saber que um usuário é iniciante e explicar um determinado fenômeno político de maneira mais simples. Isso é uma personalização legítima", avalia.

Miceli acrescenta que um sistema mais robusto poderia ter mecanismos explícitos de invariância factual, ou seja, dada uma mesma questão factual, a conclusão central deveria permanecer aproximadamente a mesma independentemente da posição política presumida do interlocutor. Ele frisa que isso não significa que exista necessariamente uma única resposta "neutra", já que em questões políticas, muitas vezes há fatos incontroversos, fatos disputados e interpretações legítimas.

"A IA deveria distinguir essas categorias. Uma resposta ideal poderia dizer 'fato: há evidências de que X [evento] aconteceu; 'interpretação: pesquisadores A e B interpretam X de maneiras diferentes'; 'incerteza: não existe consenso sobre X'; 'opinião: a avaliação de que X foi bom ou ruim depende de determinados valores'", sugere o especialista.

Guilherme Neves, professor do Ibmec, pesquisador em segurança cibernética no Instituto Militar de Engenharia (IME) e diretor de segurança da informação (CISO, na sigla em inglês) da Doutornet, considera que os modelos de IA podem ser interpretados como "um estagiário muito dedicado", que foi avaliado por milhares de chefes durante o treinamento.

"E existe um padrão antigo: avaliadores tendem a gostar de quem concorda com eles. O estagiário não decidiu bajular, ele simplesmente aprendeu que concordar rende recompensa", afirma.

Neves ressalta que esse efeito cresce com o tamanho do sistema de IA utilizado, e que os modelos maiores costumam bajular mais. Ele afirma ainda que a neutralidade perfeita não existe e que toda resposta envolve escolhas, o que entra, o que fica de fora, o que é destacado.

"E como a IA aprendeu com a Internet inteira, o 'neutro' dela tende a ser a visão dominante. Ou seja: é possível uma IA que não minta para agradar você; é impossível uma IA sem nenhum viés."

Respostas enviesadas configuram desinformação?

Anderson Rocha considera que o fornecimento de respostas alinhadas ao usuário não configura desinformação. Ele avalia que a desinformação é quando a informação é errada em algum nível e tem o interesse de enganar a pessoa.

"Se simplesmente ele dá uma resposta e, independente do viés político, ela é uma resposta correta, ela é incompleta. Mas ela não é uma desinformação por si só."

No entanto, Rocha acredita que o comportamento camaleão dos modelos de IA pode criar bolhas políticas individualizadas ainda mais difíceis de romper que as já existentes criadas pelos algoritmos das redes sociais ao oferecerem conteúdos que apenas reforçam a visão do usuário.

"A partir do momento que o sistema consegue responder de acordo com aquilo que mais te agrada, a gente tem aqui a personalização no seu nível máximo. E aí você pode criar esse tipo de bolha que é adaptado a você. Isso pode ser um problema. Por isso que a gente recomenda você sempre pedir numa pergunta 'traga-me visões complementares de diferentes pontos de vista para que eu pense por mim mesmo'," diz Rocha.

Claudio Miceli adverte que esse é um ponto preocupante, pois enquanto a bolha tradicional das redes sociais é relativamente fácil de imaginar, no modelo de IA o circuito é mais sofisticado. Ele explica que a rede social normalmente seleciona o que você vê; já a IA conversacional pode ajudar a determinar como você interpreta aquilo que vê.

"Imagine dois usuários fazendo essencialmente a mesma pergunta política. Se a IA fornece argumentos cuidadosamente adaptados às crenças prévias de cada um, eles podem sair da conversa com visões ainda mais diferentes sobre o mesmo conjunto de fatos."

Guilherme Neves acrescenta que a bolha de rede social funciona por engajamento, você vê mais do que curte, mas eventualmente algo do outro lado aparece, nem que seja para você se irritar. Já a bolha de IA valida a sua premissa antes de você terminar o argumento, agindo como um espelho que reflete apenas o usuário. Segundo ele, isso tem três agravantes.

"Confiança alta, a resposta parece objetiva e 'de máquina', então pesa mais que um post; delegação cognitiva, quem delega a pesquisa nunca treina o hábito de confrontar fontes; e validação prematura, o erro lógico nunca é confrontado, a premissa errada segue firme."

A IA como releitura do Google nos anos 2000

Miceli afirma que se a IA está assumindo o papel que o Google ocupava em pesquisas nas décadas anteriores, não deveríamos tratá-la como uma fonte primária de conhecimento. Ele diz que o estudante ou eleitor precisa desenvolver algo equivalente à antiga "alfabetização para busca", mas adaptado à IA, e recomenda algumas práticas.

Uma delas é pedir explicitamente que o modelo de IA desafie suas premissas. Ou seja, em vez de perguntar ao sistema se uma política X fracassou, pergunte se sua premissa de que a política X fracassou está correta e peça que ele apresente argumentos a favor e contra. Segundo Miceli, isso reduz o risco de a IA simplesmente aceitar a premissa embutida na pergunta.

Outra recomendação é solicitar as fontes primárias de onde vieram os argumentos utilizados na resposta fornecida.

"Para política pública, procurar documentos oficiais, legislação, dados estatísticos e relatórios originais. Para ciência, artigos científicos. Para eleições, dados e documentos oficiais. A IA deve ser usada para encontrar e organizar evidências, não como substituta da verificação."

Outra recomendação é pedir para o modelo de IA separar em sua resposta os fatos e a interpretação, o que força o sistema a tornar mais explícita a estrutura epistemológica da resposta, e não revelar seu posicionamento quando isso não for necessário ao fazer uma pergunta.

"Acho que existe aqui uma mudança importante em relação ao Google. O Google, apesar de todos os seus problemas, apresentava ao usuário uma coleção de documentos. O usuário precisava interpretar esses documentos. Uma IA generativa apresenta algo diferente: uma interpretação já processada. Isso é extremamente conveniente, mas cria um novo risco epistemológico. O perigo não é apenas a IA estar errada. É ela estar errada de maneira convincente e personalizada."

Neves, por sua vez, diz que para se blindar de respostas enviesadas o usuário deve utilizar a mesma disciplina de higiene digital ensinada para o Google nos anos 2000, ou seja, checar fontes, comparar, ir à fonte primária, mas com um passo extra que é testar o próprio enquadramento.

"Desconfie da concordância fácil. Resposta que valida suas premissas, sem fricção, é sinal de alerta. A regra de ouro: trate a IA como assistente de pesquisa com viés conhecido, nunca como oráculo."