Распространяемый компанией Илона Маска xAI инструмент Grok Build, как выяснилось, загружал целые кодовые базы и Git-репозитории вместе с историей Git в собственное облачное хранилище xAI на Google Cloud. При этом ИИ, вероятно, не ограничивался только теми файлами, которые были необходимы для обработки запроса и выполнения задачи. Это обнаружил исследователь под псевдонимом Cereblab (откроется в новом окне).

Согласно проведённым исследованиям, такое поведение нигде публично не анонсировалось. Если разработчики использовали Grok Build в связке со своими проектами кода, эти проекты в больших объёмах сохранялись компанией xAI. Как оказалось, это невозможно было отключить даже с помощью команды в командной строке.

Grok Build скопировал 12 ГБ

В одном из примеров эксперимента исследователь запустил Grok Build для работы с репозиторием размером около 12 ГБ. ИИ скопировал 73 части по 75 МБ каждая, в общей сложности 5,1 ГБ, прежде чем процесс был остановлен вручную. При этом сам Grok Build использовал всего 192 КБ кода для обработки тестовых запросов. Остальное было сохранено в облаке без видимой причины.

Это также подтвердили другие люди. Например, один человек сообщил на X (откроется в новом окне), что все его данные, включая SSH-ключи, базу данных менеджера паролей, документы, фотографии и видео, были скопированы xAI.

После того как Cereblab и другие люди опубликовали результаты, лично высказался Илон Маск. «В качестве меры предосторожности все пользовательские данные, ранее загруженные на SpaceXAI, будут полностью и окончательно удалены», — написал Маск на X (откроется в новом окне).

После этого объявления Cereblab также смог подтвердить, что xAI прекратил сбор данных. В ещё одном посте Маск призывает пользователей продолжать делиться данными. Это может помочь в отладке проблем.