На внутреннем совещании ведущие разработчики Amazon привели примеры проектов, в которых расходы на вспомогательный ИИ вышли из-под контроля. Как сообщает Financial Times (FT) (открывается в новом окне), в связи с этим планируется разработать автоматизированные защитные механизмы, которые предотвратят подобное в будущем.

В презентации для сотрудников был представлен крайний случай, в котором использование ИИ привело к дополнительным расходам в размере 1,8 миллиона долларов США. При этом использовался Anthropics Claude Sonnet для сопоставления данных об авторах с информацией на веб-сайте Amazon.

Огромные расходы не были предусмотрены — и привели к тому, что бюджет проекта был превышен на 860 процентов. Дополнительные затраты обнаружились только через пять месяцев после провала проекта. Столь масштабные расходы, вероятно, возникли из-за того, что поставщики ИИ перешли с подписочной модели на оплату на основе токенов.

Дополнительные расходы часто обнаруживались лишь позже

В другом случае из-за использования ИИ возникло около 541 000 долларов США незапланированных дополнительных расходов. В третьем примере незапланированные затраты в размере 134 000 долларов США из-за использования ИИ обнаружились только через две недели. «Сложно оценить, сколько в итоге стоит использование ИИ», — говорит один из ведущих разработчиков FT.

Впрочем, Amazon подчеркивает, что эти отдельные случаи не отражают общую практику использования ИИ в компании. Команды в настоящее время еще «учатся друг у друга». Примечательно, что такая компания, как Amazon, обладающая, судя по всему, весьма широкими возможностями для мониторинга проектов, тем не менее сталкивается с подобными проблемами.

В начале года Amazon закрыла внутреннюю таблицу лидеров, в которой сотрудники ранжировались по использованию внутреннего ИИ-инструмента Kiro. Этот рейтинг, судя по всему, побуждал сотрудников использовать ИИ всё активнее — в результате расходы выросли еще больше.