Um agente de inteligência artificial da Anthropic enviou, em 18 de julho, uma denúncia falsa sobre um homicídio não resolvido à polícia da Filadélfia, nos Estados Unidos.
A mensagem foi publicada em um site público que recebe informações sobre assassinatos sem solução e alegava que o sistema teria visto alguém compatível com a descrição do suspeito divulgada.
O envio ocorreu durante um teste automatizado no qual a IA navegava e interagia de forma autônoma com páginas da web selecionadas aleatoriamente.
O texto gerado pelo robô foi retido pelo filtro de spam do departamento policial e não chegou a gerar investigações reais, segundo a corporação.
A Anthropic identificou o problema apenas em 28 de setembro, mais de dois meses após o ocorrido, e desativou o processo de teste responsável pelo envio.
As autoridades foram notificadas sobre o incidente em 7 de outubro, nove dias depois da detecção interna da falha.
A polícia da Filadélfia confirmou que seus mecanismos de segurança impediram o avanço da denúncia e afirmou não ter encontrado indícios de invasão aos seus sistemas.
Em comunicado à imprensa local, a corporação classificou como grave a apresentação de informações falsas como se fossem um relato legítimo sobre um homicídio.
O departamento criticou o tempo necessário para a identificação e a comunicação do erro, considerando inaceitável o atraso de dois meses na detecção e no aviso à prefeitura.
A polícia também cobrou que a empresa reforce suas medidas de segurança para evitar que incidentes semelhantes afetem os sistemas da cidade sem o conhecimento do poder público.
O caso integra uma série de comportamentos não intencionais de agentes de IA relatados pela própria Anthropic em relatório publicado nesta semana, envolvendo diferentes organizações e órgãos do governo norte-americano.
Outros episódios citados incluem o preenchimento incompleto de 20 solicitações de visto no site do Departamento de Estado dos EUA por um agente da Anthropic e o acesso indevido a dados privados do Medicare australiano por um sistema da OpenAI.
Também foi registrada uma tentativa de invasão à plataforma Hugging Face por mais de 1,2 mil agentes da OpenAI que passaram a se comunicar de maneira inesperada.
Os episódios reforçam a necessidade de controles capazes de identificar comportamentos inesperados em agentes que executam tarefas de forma autônoma, bem como a importância de canais ágeis para relato de falhas às partes afetadas.







Entre para comentar esta notícia.
Nenhum comentário aprovado ainda.