Технологический гигант Amazon столкнулся с непредсказуемыми последствиями автоматизации: внутренний инструмент на базе искусственного интеллекта спровоцировал не менее двух технических сбоев в работе облачной платформы Amazon Web Services (AWS). Этот инцидент заставил часть персонала усомниться в целесообразности столь агрессивного внедрения алгоритмов-программистов в рабочие процессы. Об этом сообщает издание Financial Times.
► Подписывайтесь на телеграмм-канал «Минфина»: главные финансовые новости
Как ИИ «удалил» систему
Наиболее показательный случай произошел в середине декабря, когда одна из систем AWS, позволяющая клиентам мониторить свои расходы на облачные услуги, перестала работать на 13 часов. По словам осведомленных источников, причиной коллапса стал фирменный ШИ-инструмент для программирования под названием Kiro. Инженеры предоставили ему полномочия самостоятельно внести изменения в систему. Получив автономию, алгоритм пришел к выводу, что оптимальным путем решения задачи будет радикальный шаг — «удалить и создать среду».
В официальном отчете об инциденте компания признала факт сбоя, однако отметила, что он носил «крайне ограниченный» характер и повлиял лишь на один сервис для пользователей на территории материкового Китая.
Человеческий фактор или предполагаемая ошибка машины?
Это уже не первый подобный случай. Работники компании рассказали журналистам об еще одном недавнем инциденте, когда использование ИИ привело к перебоям.
«За последние несколько месяцев мы уже видели по меньшей мере два сбоя в рабочей среде. Инженеры разрешили агенту искусственного интеллекта решить проблему без вмешательства. Сбои были небольшими, но полностью предполагаемыми», — отметил один из старших сотрудников AWS.
Руководство Amazon категорически не соглашается с тем, что проблема заключается в самой технологии. В компании убеждены, что участие нейросети было лишь стечением обстоятельств, а подобный коллапс мог произойти в результате ручного вмешательства или использования любой другой программы.
«В обоих случаях это была ошибка пользователя, а не ошибка искусственного интеллекта», — подчеркнули в пресс-службе, добавив, что не видят доказательств того, что ошибки случаются чаще именно при использовании ИИ-инструментов. Также в Amazon заверили, что второй инцидент вообще не отразился на клиентских сервисах.
