A Amazon Web Services sofreu ao menos duas interrupções após agentes de codificação baseados em IA tomarem ações autônomas. Segundo o Financial Times, uma delas em dezembro ocorreu quando o assistente Kiro decidiu “excluir e recriar o ambiente”, provocando uma interrupção de 13 horas.
Funcionários ouvidos pela apuração disseram que engenheiros permitiram que os agentes resolvessem problemas sem intervenção, e que essas ferramentas são tratadas como extensão do operador, recebendo as mesmas permissões. Um funcionário sênior relatou que as falhas foram pequenas, mas inteiramente previsíveis.
A Amazon afirmou que a presença de ferramentas de IA nos incidentes foi uma coincidência e que “Em ambos os casos, foi erro do usuário, não erro da IA”, segundo trecho reproduzido pela Tom’s Hardware. A empresa disse também que o evento de dezembro foi “extremamente limitado”, afetando apenas um serviço em partes da China continental, e que o outro incidente não teve impacto em serviços voltados ao cliente.
O Financial Times registra que a AWS lançou o Kiro em julho. Fontes internas apontam que, embora a empresa diga que o Kiro “solicita autorização antes de tomar qualquer ação” por padrão, no caso do incidente o engenheiro envolvido tinha permissões ampliadas — um problema de controle de acesso que permitiu a ação automática do agente.
Fontes: Tom’s Hardware, Financial Times