Por enquanto, a Amazon tem uma nova regra de IA para os próximos 90 dias: engenheiros juniores e médios agora precisam da aprovação sênior em quaisquer alterações na produção assistida por IA. Eles também redefinirão suas práticas de código e enfatizarão novamente as salvaguardas tradicionais. Os engenheiros do grupo de comércio eletrônico foram instruídos a participar de reuniões semanais normalmente opcionais, focadas em interrupções recentes e nas novas regras em torno de implantações orientadas por IA generativa.
Publicamente, a Amazon rejeitou a narrativa de que os próprios agentes de IA “causaram” as interrupções. Em vez disso, tem reformulado essas falhas como falhas clássicas de controle de acesso e de processo. Porta-vozes da empresa disseram repetidamente que os incidentes foram erros do usuário e coincidências, enfatizando que “não há evidências” de que as ferramentas de IA cometem erros com mais frequência do que os desenvolvedores de software tradicionais.
O alto escalão da Amazon não está entendendo. É claro que os humanos devem assumir a culpa. Se os executivos da Amazon tivessem alguma ideia, talvez se lembrassem de que, em 1979, um manual de formação da IBM afirmava: “Um computador nunca pode ser responsabilizado, portanto, um computador nunca deve tomar uma decisão de gestão”. Infelizmente, de cima para baixo, a Amazon insiste que a IA seja usada mesmo quando, como se tornou evidente, não funciona tão bem.
Fonte: Computer World
