Amazon отключила внутренний рейтинг, который отслеживал использование инструментов ИИ среди сотрудников. Как сообщает Financial Times (откроется в новом окне), это должно было способствовать принятию технологии, но побудило персонал искусственно улучшать показатели с помощью бессмысленных действий с ИИ.

Такое поведение, названное токенмаксингом, привело к тому, что ИИ-боты выполняли ненужные задачи, с помощью чего сотрудники имитировали высокую активность. Поскольку поставщики ИИ, такие как Anthropic, чьи модели Amazon активно использует, перешли на модели ценообразования, зависящие от потребления, это также привело к значительному росту затрат на вычислительные мощности и расход токенов в Amazon.

По данным Financial Times, поведение сотрудников также связано с давлением со стороны компании, направленным на продвижение использования ИИ. Согласно внутренним целевым показателям, 80% разработчиков должны еженедельно прибегать к помощи ИИ.

Рейтинг ИИ был создан с "благими намерениями"

Дэйв Тредвелл, старший вице-президент Amazon, как сообщает газета, сказал сотрудникам: "Пожалуйста, не используйте ИИ только ради использования". Он добавил, что рейтинг был создан "с благими намерениями" группой сотрудников, которые хотели повысить осведомленность о том, как ИИ может ускорить работу. Amazon также заявил в своем заявлении, что рейтинг не был официальным или одобренным инструментом.

Чтобы в будущем измерять реальный прогресс, а не просто расход данных, компания теперь делает больший упор на метрику "нормализованных развертываний", говорится далее. Это должно позволить отслеживать, действительно ли инженеры используют ИИ для создания полезного кода.