В пятницу функция Google AI Overviews при определенных поисковых запросах выдавала не сводки, а ответы в стиле чат-бота службы поддержки, как сообщает Tech Crunch (открывается в новом окне). Те, кто искал слово "disregard" (английское слово, означающее "игнорировать" или "оставить без внимания"), получали сообщение: "Got it. If you need anything else or have a new question later, just let me know!" ("Понял. Если вам понадобится что-то еще или позже возникнет новый вопрос, просто дайте мне знать!").

ИИ воспринимает поисковые слова как системные команды

Ошибка не ограничилась одним словом. Сообщается, что поиск по слову "ignore" ("игнорировать") приводил к появлению сообщения, в котором система заявляла о своей готовности и спрашивала, чем может помочь. Запрос "skip" ("пропустить"), по-видимому, выдавал подсказку о том, что это, возможно, опечатка, вместе с приглашением задать правильный вопрос.

Все три слова объединяет одна общая черта: в мире промптов для ИИ это распространенные инструкции. Система, судя по всему, неверно истолковала поиск этих слов как команду для модели ИИ.

Google вмешивается

Вечером в пятницу Google перестал показывать AI Overview для запроса "disregard", вместо этого отображая список новостных статей о самом инциденте. Сообщается, что ошибочные ответы для запросов "ignore" и "skip" в это время все еще появлялись.

Время было выбрано неудачно. Ошибка произошла на следующий день после Google I/O, ежегодной конференции разработчиков Google, на которой компания представила масштабные улучшения поиска на основе ИИ.