Segundo Tom’s Hardware, ferramentas de inteligência artificial usadas por engenheiros da Amazon Web Services teriam causado interrupções internas, incluindo uma que apagou o ambiente de desenvolvimento e resultou em 13 horas de paralisação.
O artigo relata que o incidente mais recente, em dezembro, ocorreu quando a ferramenta de codificação Koiro apagou o ambiente em que estava operando. Outra falha mencionada não teria afetado serviços voltados a clientes, mas funcionários disseram que os episódios eram previsíveis por conta da confiança excessiva em agentes automatizados.
A Amazon afirmou ao veículo que a participação de ferramentas de IA foi coincidência e que “Em ambos os casos, foi erro do usuário, não erro da IA”. O Tom’s Hardware também relata que funcionários da AWS dizem que agentes de IA recebem as mesmas permissões do usuário que os aciona, permitindo que as mudanças sejam aplicadas sem aprovação secundária e levando a empresa a tratar os incidentes como problemas de controle de acesso.
Fontes: Tom’s Hardware