Китайские подходы к ИИ более ресурсоэффективны не только из-за санкций США против высокопроизводительных чипов. Так ответил на вопросы Golem Алекс Ченглин Ву, основатель китайского стартапа Deepwisdom, стоящего за фреймворком с открытым исходным кодом MetaGPT. "Нет, это не единственная причина. Хотя санкции США против высокопроизводительных чипов представляют собой реальную проблему для многих китайских технологических компаний."

Некоторое время назад DeepWisdom сделала свою технологию доступной для массового рынка на платформе Atoms (ранее MGX). Ву ввел термин "вибизнес" (Vibe Business): пользователь должен иметь возможность управлять целой компанией, поскольку ИИ-агенты берут на себя всю операционную деятельность, такую как кодирование, маркетинг, дизайн и SEO.

Таланты, данные, инфраструктура и системная инженерия также играют важную роль в разработке ИИ. Оптимизированный конвейер может "значительно повысить эффективность", подчеркнул Ву.

Повышение эффективности также достигается за счет улучшения всего конвейера, включая очистку данных, смешивание выборок, проектирование этапа обучения, моделирование вознаграждения и развертывание вывода. "Ярко выраженная культура разработчиков с ее акцентом на точность деталей и эффективность может побудить разработчиков ИИ избегать ненужного обучения и повторных вычислений", — пояснил Ву.

Мало денег на обучение

Кроме того, многим китайским ИИ-стартапам не хватает доступа к практически неограниченному капиталу для покрытия огромных затрат на обучение передовых моделей. Поэтому они находятся под большим давлением, чтобы максимизировать вычислительную мощность, поскольку они "действуют на сильно чувствительном к затратам и конкурентном рынке, где недорогая реализация и коммерческая рентабельность имеют решающее значение с самого начала", сказал Ву.

Это создает более сильные стимулы для внедрения ресурсоемких технологий, таких как квантизация, архитектуры смеси экспертов (Mixture-of-Experts) и оптимизация вывода, уже на ранних этапах цикла разработки.

Ву подчеркнул: "Еще одна причина — готовность идти на архитектурные компромиссы для снижения затрат и повышения эффективности внедрения. Например, вместо того чтобы стремиться к теоретически максимальной производительности модели, на практике они могут уделять больше внимания скорости вывода, эффективности использования памяти и затратам на серверы."

Ascend от Huawei: потребление энергии почти в четыре раза выше

Deepwisdom разрабатывает продукты на уровне приложений (2C), сказал Ву, и дал краткую оценку аппаратного обеспечения: Ascend 910C от Huawei производится по 7-нм техпроцессу SMIC и обеспечивает сопоставимую с чипом Nvidia H100 производительность на чип. Хотя энергопотребление почти в четыре раза выше, чем у сопоставимой системы GB200-NVL72 от Nvidia, кластер Cloudmatrix-384 с 384 процессорами Ascend 910C достигает вычислительной производительности BF16 почти в 300 петафлопс. Преемник Ascend 910D в настоящее время тестируется, чтобы достичь или превзойти производительность H100. Изготовленный по 6-нм техпроцессу Ascend 920, по его словам, должен достигать более 900 терафлопс на карту.

"Мы — компания, занимающаяся ИИ-приложениями, а не производитель аппаратного обеспечения. Atoms AI — это инструмент для интуитивного программирования, который помогает людям превращать идеи в реальные продукты. Например, владельцы малого бизнеса и основатели стартапов могут с помощью внутренних инструментов Atoms создавать целевые страницы или автоматизированные рабочие процессы. ИИ-агенты Atoms также помогают менее технически подкованным пользователям в разработке, выводе на рынок и продвижении своих продуктов."

В то время как поставщики аппаратного обеспечения и моделей сосредотачиваются на вычислительной мощности, чипах и производительности моделей, фокус компании Ву, по его словам, заключается в том, чтобы сделать эти возможности полезными на практике.

Ву является основателем и CEO Deepwisdom и ее недавно представленного продукта Atoms, разработанного Openmanus, венчурно-финансируемым ИИ-стартапом в области программирования. Он также является основателем MetaGPT, а его команда стоит за MGX и Foundationagents.org.