AWS испытывал два сбоя из-за использования собственных ИИ-инструментов

Подразделение Amazon Web Services (AWS) потерпело по меньшей мере два сбоя в работе из-за ошибок, связанных с использованием собственных инструментов искусственного интеллекта для написания кода. Об этом сообщает Financial Times.

Инциденты произошли в течение последних месяцев и, по словам сотрудников, вызвали внутренние дискуссии о безопасности активного внедрения ИИ-ассистентов.

В середине декабря одна из систем AWS не работала около 13 часов после того, как инженеры позволили инструменту Kiro внести изменения без дополнительного согласования. Агентный ИИ решил "удалить и воссоздать среду", что привело к прерыванию работы сервиса для анализа расходов клиентов. Компания подготовила внутренний отчет по этому инциденту.

По словам работников, это был уже второй случай, когда ИИ-инструмент компании оказался в центре сбоя. В Амазонка заявили, что речь идет об ошибках пользователей, а не самого искусственного интеллекта. В компании подчеркнули, что декабрьский инцидент имел ограниченный характер и касался одного сервиса в части материкового Китая, а второй случай не повлиял на клиентские сервисы AWS.

AWS, который обеспечивает около 60% операционной прибыли Amazon, активно развивает инструменты на основе ИИ, в частности агентов, способных выполнять действия автономно по инструкциям человека. Kiro был представлен в июле как помощник для написания кода нового поколения.

После декабрьского инцидента AWS ввела дополнительные меры предосторожности, включая обязательную проверку изменений коллегами и дополнительное обучение персонала. В компании также заявили о росте спроса на Kiro среди клиентов и намерении и в дальнейшем расширять использование ИИ-инструментов.

В 2025 году AWS представила новое поколение ИИ-моделей Nova 2 и сервис Nova Forge. А Amazon и Google запустили сервис для быстрого соединения между своими облаками.