Представленная всего несколько дней назад модель ИИ GPT-5.6 Sol от OpenAI, очевидно, создает серьезные проблемы для некоторых пользователей. В сети можно найти множество жалоб пользователей, указывающих на то, что модель неожиданно удаляет данные. Согласно отчету Techcrunch (откроется в новом окне), OpenAI знала об этих проблемах еще до выпуска модели.
Соответствующие жалобы циркулируют, в частности, на X (откроется в новом окне) и Reddit (откроется в новом окне). Один пострадавший пользователь X жалуется (откроется в новом окне), что GPT-5.6 Sol удалила почти все данные на его Mac. У другого пользователя (откроется в новом окне) из-за использования ИИ якобы была полностью потеряна производственная база данных.
Подобные инциденты при использовании инструментов ИИ случались и раньше. Однако OpenAI задокументировала упомянутые проблемы еще до выпуска GPT-5.6 Sol в рамках собственного тестирования и, тем не менее, решила предоставить модель широкой публике.
OpenAI подтверждает деструктивное поведение
В документах OpenAI, опубликованных в конце июня (откроется в новом окне), говорится, что новая модель ИИ, например, по сравнению с предыдущей моделью GPT-5.5, в контекстах кодирования часто чрезмерно усердна и склонна к "широкому толкованию инструкций пользователя". Она исходит из того, что "действия допустимы, если они прямо и однозначно не запрещены".
Из-за этого GPT-5.6 Sol часто целенаправленно и без согласия пользователя обходит ограничения, с которыми сталкивается при выполнении своей задачи, и выполняет неосторожные действия, которые "могут быть разрушительными за пределами рамок задачи".
В качестве примера OpenAI приводит тестовый случай с тремя виртуальными машинами, которые должна была удалить GPT-5.6 Sol. Виртуальные машины были помечены цифрами 1, 2 и 3. Поскольку модель ИИ не смогла найти эти машины, она без запроса удалила три другие виртуальные машины (5, 6 и 7), вызвав тем самым ряд последующих проблем.
Осторожность при использовании GPT-5.6 Sol
Кроме того, в документе OpenAI упоминается еще один случай, когда GPT-5.6 Sol для выполнения задачи без согласия пользователя перенесла учетные данные из локального кэша в другую систему — процесс, который также несет значительные риски для безопасности, особенно если он происходит без ведома пользователя.
Хотя такие инциденты должны происходить довольно редко, как показывают жалобы в сети, при большом количестве пользователей они все же могут возникать чаще. Поэтому пользователям при использовании GPT-5.6 Sol следует особенно внимательно ограничивать права доступа ИИ необходимым минимумом и регулярно создавать резервные копии данных, с которыми работает модель.