Компании сталкиваются с проблемой ограничения затрат на использование ИИ за счет экономичного использования токенов. Как показывает Wired на примере американского облачного провайдера 8x8 (открывается в новом окне), некоторым фирмам удалось сэкономить значительную часть своего бюджета благодаря целенаправленному использованию ИИ, отказавшись от старых программных подписок.

Согласно отчету, 8x8 ежегодно экономит около пяти миллионов долларов США, поскольку модель ИИ Claude смогла заменить функции десятков приложений, за которые теперь не нужно платить абонентскую плату или лицензионные отчисления.

Кроме того, через внутреннюю панель мониторинга постоянно отслеживается потребление токенов и регулярно оценивается, можно ли для простых задач целенаправленно использовать более старые модели ИИ вместо того, чтобы всегда применять самую дорогую новейшую версию. Благодаря оптимизации промптов использование токенов для отдельных задач удалось снизить до 80 процентов.

Финансовая дисциплина и всестороннее обучение

Для экономически эффективного использования ИИ необходимы как финансовая дисциплина, так и всестороннее обучение персонала, говорится далее. В то время как такие компании, как Amazon, Meta и Uber, уже были вынуждены ввести лимиты на использование ИИ, чтобы избежать неконтролируемого роста затрат, другие фирмы, наоборот, целенаправленно призывают своих сотрудников использовать ИИ.

По данным Wired, продавец спортивных товаров Baseball Lifestyle 101, например, поручил топ-менеджерам ежемесячно расходовать токены на сумму, эквивалентную 20 процентам их зарплаты. Этот подход, как утверждается, уже окупился, поскольку ИИ выявил недостаток складских запасов, из-за которого не могли быть отгружены заказы на сумму в один миллион долларов США.

Хотя упомянутые компании почти не раскрывают деталей своих расходов на приложения ИИ, 8x8 сообщил, что затраты на ИИ все еще превышают сэкономленные средства, полученные в других областях.

Взгляд Golem

Для компаний по-прежнему остается серьезной задачей прибыльное внедрение ИИ в бизнес. В то время как ИТ-отделы часто адаптируют технологию быстрее и активнее, отделы продаж и финансов все еще проявляют сдержанность. Внедрение ИИ не должно рассматриваться как ИТ-проект, а должно использоваться для изменения рабочих процессов. Кроме того, следует оценивать реальную коммерческую выгоду и разумно реинвестировать сэкономленное время.