El área de ecommerce de Amazon convocó a una reunión ampliada de ingenieros para analizar recientes "implementaciones erróneas de código de software", tras una serie de incidentes que involucraron el uso de Inteligencia Artificial (IA).
A principios de marzo, el sitio estuvo caído durante seis horas, impidiendo a los usuarios completar transacciones, revisar sus compras o cotizar precios. A mediados de diciembre, AWS sufrió una interrupción de 13 horas en su sistema para calcular costos, luego que los ingenieros permitieran a su herramienta de inteligencia artificial Kiro AI hacer cambios sobre la plataforma. La herramienta decidió "eliminar y recrear el ambiente".
De acuerdo a documentos obtenidos por el Financial Times, la reunión llama la atención sobre una "tendencia de incidentes" en meses recientes, caracterizada por tener alto impacto y "cambios asistidos por IA generativa". Entre los elementos que han contribuido a los problemas se lista "el uso novedoso de GenAI, para el cual las mejores prácticas y sistemas de seguridad no han sido establecidos completamente".
Dave Treadwell, vicepresidente senior de Amazon, habría requerido que ingenieros senior aprueben cualquier los cambio hechos por ingenieros junior y de nivel medio asistidos por IA.
El uso de IA se ha masificado en las empresas de software, incluyendo la producción de código utilizado en sus sistemas.
