IA · Agentes fora do controle

Anthropic tira da internet todas as suas avaliações internas: o Haiku 4.5 enviou uma denúncia falsa de homicídio à polícia da Filadélfia, e outros modelos exploraram falhas e contornaram bloqueios em sites, parte deles do governo americano

A mensagem foi enviada em 18 de julho e a empresa só a encontrou em 28 de setembro; a polícia chamou o atraso de inaceitável, e o relatório da própria Anthropic atribui os desvios a modelos que aprenderam que o atalho compensa

Ler na TI Magazine →