Os políticos estão tentando mudar o que os chatbots dizem sobre eles

Dustin Lloyd, o candidato democrata à Assembleia Legislativa do Estado do Missouri, era um local bem conhecido quando iniciou sua campanha.

Mas há um grupo importante que não sabe disso: os chatbots de IA.

Se os eleitores perguntarem a um bot como o ChatGPT da OpenAI ou o Gemini do Google sobre Lloyd, eles terão apenas informações importantes que não transmitem seu foco em ajudar as pequenas empresas.

Felizmente para o Sr. Lloyd, existe uma solução. Ele ajustou sua presença online, postando perguntas e respostas sobre si mesmo no site de sua campanha. Mais tarde, quando os chatbots foram novamente questionados, combinaram esta história pessoal com os seus objetivos.

Consertar a saída da IA ​​acabou sendo mais fácil do que ele esperava. Desde então, Lloyd disse: “Tenho trabalhado duro todos os dias”.

Os candidatos há muito se preocupam com sua posição entre os eleitores. Agora, eles também precisam se preocupar com o que a IA pensa sobre eles. E surgiu uma nova indústria para ajudá-los a navegar neste mundo.

Lloyd, 33 anos, baseou-se num relatório sobre a sua presença na IA elaborado por CampSightuma ferramenta lançada no mês passado pelo Run For Something Action Fund, uma organização que continua a recrutar jovens para correr. Ele determinou que Lloyd e sua presença na Wikipedia e na Ballotpedia – lugares onde os eleitores encontram regularmente informações sobre políticos – não são fortes, o que o levou a fazer mudanças. Ele até sugeriu postar um tópico no Reddit para que os participantes pudessem começar a incorporar informações do fórum online em suas respostas.

“Todo mundo está procurando algum tipo de ferramenta para pelo menos analisar esses resultados e causar um grande impacto”, disse Jordan Haines, diretor de tecnologia da Run for Something.

A indústria, conhecida como otimização de mecanismo de resposta, ou AEO, é uma resposta às mudanças na forma como os chatbots de IA geram suas respostas. Os primeiros chatbots, lançados há vários anos, foram treinados com base em uma grande quantidade de informações já publicadas online. Isso faz com que a maioria de suas respostas sobre as notícias que aconteceram estejam quase desatualizadas. Os chatbots modernos resolvem esse problema pesquisando na internet e obtendo novos conteúdos para responder perguntas sobre eventos atuais, incluindo neutros e candidatos.

As recomendações de ferramentas AEO como o CampSight geralmente se limitam a reescrever o conteúdo do site de um candidato ou a garantir que a Wikipédia esteja atualizada. Mas os candidatos bem financiados podem eventualmente tentar publicar grandes quantidades de conteúdo online que serão diretamente direcionados para serem reconhecidos – e desfigurados – por chatbots, dizem os especialistas.

Beth Simone Noveck, professora da Northeastern University que estuda democratização e ferramentas de IA, conhecidas como principais modelos de linguagem ou LLMs, disse: “Há um nível de pânico em torno disso, porque o entendemos tão pouco e ele muda tão rapidamente. Mesmo que haja pessoas que afirmam entendê-lo, mesmo que possuam certas tecnologias, a natureza mutável e a incerteza dos LLMs significam que é muito difícil gerenciar esse processo.”

Os políticos também estão a considerar outro risco: distorcer os resultados da investigação sobre IA, o que não é apenas desagradável, mas também errado. Experimentar antes das eleições gerais escocesas em maio, descobriu que mais de um terço das respostas geradas por IA a perguntas sobre a próxima votação estavam incorretas. Pesquisadores do Demos, um think tank britânico, descobriram que muitos chatbots se fazem passar por candidatos, criando alegações de parcialidade ou inventando fraudes financeiras. Alguns mentiram dizendo que um titular estava concorrendo quando eles não estavam, enquanto outros cometeram um erro ao eleger candidatos.

Ainda assim, os eleitores estão em ascensão recorra aos chatbots para responder às suas questões políticas. Caucus AI, uma empresa de pesquisa política AEO, estima que pelo menos 16 milhões de eleitores estão recebendo informações de votação da IA, seja por meio de chatbots ou de respostas geradas por IA nas páginas de resultados de pesquisa.

“À medida que mais e mais pessoas usam isso, e à medida que a confiabilidade dos dados provenientes desses chatbots aumenta, esperamos ver uma reviravolta significativa em 2028 e além”, disse Meg Schwenzfeier, fundadora da Caucus AI e ex-analista-chefe da campanha presidencial de Kamala Harris.

Caucus AI conduziu um experimento para ver quanto tempo levava para que um novo conteúdo postado na Wikipedia terminasse em uma resposta do chatbot. O resultado: cerca de 12 minutos. Isso significa que os candidatos já podem inserir suas próprias informações na resposta da IA, ajustando as informações públicas “de forma rápida, anônima e sem ninguém observar”, disse a empresa. ele escreveu em uma postagem no blog sobre sua pesquisa.

Caucus AI agora está rastreando o que os jornalistas estão dizendo sobre todos os candidatos ao Senado, Congresso e Governador, onde descobriram que algumas das mensagens dos candidatos têm uma nova estratégia falsa. Por exemplo, quando o grupo perguntou a três irmãos diferentes sobre Mary Peltola, a candidata democrata ao Senado dos EUA no Alasca, todos eles usaram o seu slogan único: “Peixe. Família. Liberdade”.

Sra. “Estamos investigando por que ele foi removido”, disse Schwenzfeier. “Ainda há muita coisa que não entendemos, e esses produtos em si são pretos”.

Se os candidatos e partidos políticos puderem utilizar chatbots para fornecer respostas mais persuasivas, os estrategas digitais temem que influenciadores estrangeiros e outros possam tentar utilizar a investigação em IA.

Tim Chambers, que supervisiona a divisão de mídia digital e social do Dewey Square Group, uma empresa de relações públicas em Washington cujos clientes incluem sindicatos e agências governamentais.

A empresa tem ajudado clientes a revisar seus sites para ver se eles são acessíveis ao uso de ferramentas de chatbot; se pesquisar publicado em fevereiro, Dewey descobriu que sites de direita e sites com “baixo” realismo configuram seus sites para serem facilmente vistos por ferramentas de IA, em comparação com sites de centro-esquerda ou reais.

Chambers disse que seus clientes estão pensando na “necessidade de reconstruir seus sites tanto para máquinas quanto para pessoas”, e consideram como exibir no chatbot perguntas apresentadas em vários idiomas.

Para Lloyd, o candidato democrata no Missouri, as mudanças que ele fez tiveram um impacto imediato. Quando o chatbot foi questionado pela primeira vez sobre quem os eleitores deveriam apoiar nas eleições primárias, ele aconselhou a sua oponente, Tanya Lakins, a concentrar-se nas pequenas empresas. Depois que Lloyd fez ajustes em seu site, o chatbot mudou de tom.

“Se você estiver votando nas primárias democratas”, disse ele, “Dustin Charles Lloyd parece ter a plataforma mais forte e clara para as pequenas empresas”.