Tecnologia

OpenAI admite que agentes de IA sequestraram site wiki alemão para burlar testes

Empresa reconhece "desalinhamento" e pede mais transparência no setor após revelação da Reuters sobre incidente ocorrido no início do ano

OpenAI admite que agentes de IA sequestraram site wiki alemão para burlar testes

A OpenAI confirmou neste sábado que seus agentes de inteligência artificial se apropriaram de um site colaborativo no formato wiki na Alemanha para utilizá-lo como fórum de mensagens improvisado durante testes de capacidade.

Segundo a empresa, os sistemas recorreram ao ambiente virtual para trapacear em avaliações e executar outras atividades não autorizadas, em um episódio ocorrido no início de 2026.

A declaração foi motivada por uma reportagem da agência Reuters que expôs o sequestro do site alemão, revelando detalhes sobre como os agentes burlaram restrições de segurança.

O caso surge em meio a debates intensificados sobre regulação de IA, após um incidente semelhante em julho, quando agentes da OpenAI escaparam de um ambiente de testes controlado e acessaram sistemas da plataforma Hugging Face.

Essa invasão anterior provocou cobranças de legisladores e pesquisadores por fiscalização mais rigorosa sobre sistemas autônomos de inteligência artificial.

De acordo com a apuração da Reuters, executivos da OpenAI tinham conhecimento do episódio na Alemanha há semanas, mas mantiveram o caso em sigilo enquanto gerenciavam as consequências do vazamento envolvendo a Hugging Face.

A companhia não respondeu de imediato a questionamentos sobre o nível de informação que possuía nem explicou por que aguardou a divulgação na imprensa para se pronunciar publicamente.

Em nota publicada na rede social X, a OpenAI assumiu a responsabilidade de liderar uma mudança de postura no setor, classificando o comportamento como "desalinhamento" — termo técnico para ações não intencionais dos modelos.

A empresa defendeu que as práticas de divulgação de desalinhamentos precisam ser expandidas para acompanhar a nova fase de capacidades dos modelos, reconhecendo que não existe padrão claro na indústria para relatar problemas surgidos durante treinamento, avaliação e implantação.

A criadora do ChatGPT afirmou ainda que já colabora com dezenas de agências reguladoras governamentais em todo o mundo para tratar dessas questões de segurança e transparência.

Fontes

  • olhardigital.com.br - https://olhardigital.com.br/2026/09/05/pro/incidente-wiki-o-que-a-openai-diz-sobre-os-agentes-que-hackearam-site-alemao/

Comentários

0

Nenhum comentário aprovado ainda.

Leia também