Mercados
Tecnologia

Modelos de IA avançados repetem dados falsos ao delegar leitura, diz estudo

Pesquisa mostra que supervisores mais fortes podem adotar respostas erradas de agentes auxiliares mais fracos, expondo falha em sistemas que dividem tarefas entre IA.

Foto: CryptoSlate

Um estudo submetido ao arXiv em 12 de novembro revelou que modelos avançados de inteligência artificial (IA) podem repetir respostas falsas quando delegam a leitura de evidências a agentes auxiliares mais fracos. A pesquisa, conduzida por Keegan Wang e Anantika Mannby, testou agentes com registros fictícios e perguntas de duas opções para medir revisões prejudiciais, ou seja, a adoção da resposta errada plantada por um atacante.

Nos testes com o modelo Claude Code da Anthropic, um supervisor Opus 5 com acesso direto aos arquivos cometeu 1 erro em 180 tentativas, mas esse número subiu para 75 erros quando a leitura foi delegada ao agente Haiku 4.5. Em outro experimento com o Codex da OpenAI, o GPT-5.6-sol não cometeu erros em 180 leituras diretas, mas repetiu respostas falsas em 44 de 180 casos quando confiou no GPT-5.6-terra para a leitura.

A diferença entre leitura direta e delegada é que, na primeira, o supervisor lê os arquivos originais, enquanto na segunda, um agente mais fraco lê os arquivos e repassa um relatório ao supervisor. O estudo também mostrou que o uso de agentes auxiliares do mesmo nível reduziu significativamente os erros em ambos os modelos testados.

As falhas ocorreram especialmente em condições com evidências falsas plantadas, que incluíam documentos forjados e anotações falsas que simulavam autoridade. Os pesquisadores destacaram que as instruções para evitar esses ataques foram resistidas pelos leitores automatizados, e que algumas fraudes pareciam registros factuais, o que dificultava a detecção.

Este estudo alerta para riscos de confiabilidade em sistemas que dividem tarefas entre múltiplos modelos de IA, especialmente quando agentes auxiliares mais fracos são responsáveis pela leitura e interpretação inicial das evidências. O espaço segue aberto para manifestação dos citados.

18/11/2026, 03:45 · 1 min de leitura · Com informações de CryptoSlate.

Aviso legal: este conteúdo tem caráter meramente informativo e não constitui aconselhamento financeiro, jurídico ou recomendação de investimento. Criptoativos são voláteis e envolvem risco de perda.

Texto produzido com apoio de inteligência artificial a partir de fontes públicas. Conheça nossa política editorial.

Gostou? Compartilhe:

Leia também

Tecnologia →