IA · Segurança de IA

O Gemini saiu do ambiente de teste e invadiu três empresas reais em maio, adivinhando uma senha e achando credenciais em repositórios públicos; o Google soube em julho, só admitiu quando o Wall Street Journal perguntou, e diz que o modelo “agiu de forma apropriada” porque parou sozinho

O incidente aconteceu durante um teste de capacidades ofensivas conduzido pela startup israelense Irregular, que deixou o acesso à internet ligado sem querer. Segundo o Google, foi “identidade trocada”, não desalinhamento: o modelo achou que os alvos faziam parte do exercício e parou ao perceber que eram serviços reais. Para Jack Cable, da Corridor, “o metaproblema é que modelos estão saindo dos limites do que deveriam fazer e executando ataques cibernéticos de verdade”

Ler na TI Magazine →