И снова нейросеть: Bing анонсировал “новый тип поиска будущего” (спойлер: вранье)

Чат-бот со встроенной цензурой, генерирующий тексты вместо набора ссылок на страницы – это предложение Bing вместо (или вместе?) стандартной поисковой системы, которое сами разработчики (скорее, маркетологи) гордо назвали “новым днем в поиске” и поисковых технологиях. Никаких ссылок и чужих страниц – только ответы на ваши вопросы. Работает ИИ нового поколения, мощнее ChatGPT. Ну и другие модные аббревиатуры. Что там на самом деле?

Если коротко, все, что я об этом думаю, можно сформулировать в четырех словах: подмена понятий и создание иллюзий.

Но это решение лежало на поверхности, говорили о нем уже давно, и даже мои прогнозы десятилетней давности о развитии поиска были о том, что “поисковик начнет выдавать один правильный результат вместо набора сомнительных ссылок”. Сегодня я так не думаю и поменял свое мнение на развитие поисковых технологий. Статья про философию поиска – это мое обоснование, почему я теперь думаю иначе.

И хотя апокалиптические сценарии из-за ИИ тоже не мой конек, я считаю, что из-за таких решений, как выкатил Bing и собирается выкатить Google в ближайшее время, искажений и манипуляций может стать не меньше, а больше, и не в разы, а на порядки. Доверие к поисковикам будет подорвано еще больше, чем сейчас (хотя сейчас им кажется, что 40% возвращающихся обратно в поисковую выдачу людей – это плохо, а когда люди перестанут возвращаться в поисковую строку вообще – вот тогда наверно станет хорошо)). А информационные пузыри, разделяющие людей (или эхокамеры, кому как удобнее) начнут надуваться и лопаться с гораздо большей частотой. На первый взгляд, может показаться, что подход “даем только полезное, отсеиваем все бесполезное” – это благо для пользователя и именно то, что он хочет. Но это не так. При получении готовых ответов в виде дайджеста, сгенерированного из готовых ответов в разных источниках, которые при этом также могут являться дайджестом – непроверяемым, недоказуемым, искаженным, сознательно сфальсифицированным – стабилизируются только искажения, только на определенный отрезок времени, только в определенных группах людей. И это долгосрочная стратегическая проблема, которая станет видна только на большом отрезке времени.

Долже же быть что-то хорошее!..

И правда, есть и хорошее. Практика предыдущих “социологических экспериментов” показывает, что затормозить развитие с помощью таких инструментов можно достаточно быстро и относительно дешево, но остановить все равно не-воз-мож-но!

Возможно, вы не знали, но еще в 1967 году производители сахара, сговорившись, заплатили всего троим ученым за публикацию исследования, которое показало (сфальсифицировало) низкую связь между потреблением сахара и развитием сердечно-сосудистых заболеваний. Эта статья, опубликованная в солидном научном журнале, в итоге привела к задержке подобных исследований на 50 лет вперед. Зачем перепроверять, если именитое издание и ученые с подтвержденными статусами уже все доказали? В итоге один из этих “ученых” успел стать крупным чиновником и заняться государственными программами по диетам, другой дорос до главы отдела питания в Гарвардском университете. А информация о фальсификациях всплыла только в 2015 году, когда они уже умерли.

Аналогичных скандалов не счесть, взять хотя бы посуду с тефлоновым покрытием (т.н. антипригарным), производитель которой выплатил многомиллионные штрафы и компенсации по искам погибших и пострадавших от нее после 40+ лет разбирательств, все это время спокойно продавая свою посуду во всем мире. Более того, ее до сих пор можно абсолютно легально купить в любых магазинах. Загуглите статью “Юрист, ставший кошмаром компании DuPont”.

Как это относится к “новому виду поисковика”? Да все так же. Получая в качестве ответа не ссылки на результаты, которые можно посетить, изучить, найти что-то новое, увидеть нестыковки, предположить гипотезы, зацепиться за другие связи в других нишах, провести аналогии, сделать собственные выводы, перепроверить и т.д., а просто готовую статью-реферат по теме, пользователь как бы получает быстрое подкрепление и завершение поисковой сессии. Обучение и практический ответ “эксперта”. Но это только в теории. Потому что на практике и в реальности то, что он получил в качестве ответа, потом выражается в конкретных действиях и решениях. И одно дело получить в качестве дайджеста подборку мнений по какому-то вопросу, а другое дело – инструкцию или набор советов, что и как применять. Уже из одного этого становится очевидно, что характер такого “нового поиска” не будет универсальным, как бы ни старались разработчики.

У меня в анти-кейсах для “разбора полетов” оптимизаторов лежит одна статья, которая описывает один из “женских” запросов к поисковику. Ссылку приводить не буду, чтобы не рекламировать, опишу вкратце. Если же кому-то интересно будет почитать полностью, пишите – отправлю на почту. Статья объемом 9 тысяч знаков, хорошо сверстанная, с тремя картинками, списками, подробным пошаговым описанием внутри, оптимизированная под низкочастотный запрос всего около 100 показов в месяц. И вот рекомендация оттуда:

Отрывок из сгенерированного копирайтером бессмысленного текста, отвечающего всем формальным требованиям “экспертности”

Этот бред не только не забанен в поиске, а занимал первые места во всех поисковиках. Включая Bing. И такого поискового шума с работой ИИ станет не просто больше, а в тысячи раз больше. И именно такие сервисы как этот “новый поиск” Bing поспособствуют росту подобного контента.

Google делает то же самое, судя по их заявлениям – спешно выпущенная надстройка для Bing всего лишь ответ одного кита другому.

Дайте слово обвиняемому!

Да пожалуйста. Видео демонстрации возможностей Bing с конференции Microsoft – это просто набор воодушевляющих невнятных аффирмаций, смешанных с техническим сторителлингом. Но основные посылы и философия, на мой взгляд, содержатся в этих тезисах:

“Когда вы думаете об этих генеративных моделях ИИ, помните одно: их побуждают что-то делать, побуждение исходит от человека. Мы помогаем им подсказывать, мы заставляем их взять сгенерированный черновик и отредактировать его, они должны просмотреть черновик, они должны одобрить его, используя суждения, и мы хотим дать им КАК МОЖНО БОЛЬШЕ ТОЧЕК ЗРЕНИЯ на способы генерации. … и когда речь идет о данных, само предварительное обучение, сама модель должна быть безопасной – система безопасности вокруг модели, контекст приложения, все будет иметь значение.”

Во главе угла – количество и безопасность. Или, другими словами, статистика и отказ от рисков. Понимаете, как это связано со “стабильностью” и “цензурой”? Или с тем, что делают многие т.н. психологи в обычной жизни с обычными людьми?

В качестве примера запроса в презентации приводится следующий: “Поместится ли двухместный диван Ikea в мою Honda Odyssey, если я сложу сиденья” (на английском). Результат: текст про габариты дивана и габариты машины, сравнивая которые, ИИ делает собственный вывод – да или нет. Дословно вывод звучит так:

“Основываясь на этих габаритах, похоже, что диван не поместится в машину, если сиденья открыты, но может поместиться с опущенным вторым и третьим рядом, в зависимости от ориентации и формы сидений.”

Пример ответа нового поиска Bing на сложный низкочастотный запрос с вопросом

И чем это отличается от ответа “эксперта” про блины, точно так же ориентирующегося на количество и мнимую безопасность? В обоих случаях ответ был сгенерирован на основе фактических данных, просто с блинами “эксперт” был туповат (ибо просто копирайтер), а с машиной “эксперт” был… ммм…. не очень уверен в себе (ибо просто ИИ)).

В 2016 году Яндекс точно так же презентовал свой алгоритм запросом “рассказ в котором раздавили бабочку”, в ответ на который выводилось наименование рассказа, и это казалось прорывом. И как раз этот подход они затем более-менее подробно описали в своих статьях. Со всеми его искажениями…

А вот образец того, чему один из сеошников учит на своих курсах по продвижению, тоже “экспертиза” аналогичного уровня:

Обучение манипуляциям в поиске от seo-экспертов – все для создания видимости экспертизы.

А это сообщение на одном из сеошных форумов, где вопрос обсуждается так: можно ли сгенерировать 100 информационных блогов с помощью искусственного интеллекта так, чтобы они не только попали в поиск, но и начали приносить доход с контекстной рекламы? Ответ вкратце: да, без проблем.

Поисковой шум от искусственного интеллекта – обсуждение возможностей создания ИИ контента на сеошном форуме.

И что теперь? Будет новый поиск или нет?

В общем никакой подмены на “единственно верный результат” не произойдет, я думаю. Мой прогноз был ошибкой и иллюзией – просто в то время я не мог еще ее распознать. Казалось, вот-вот и они поймут и сделают… То, что сейчас происходит на рынке с ИИ и применением его в поисковых технологиях, лишь следствие коммерческой эксплуатации той же иллюзии. Одно из технологических УТП с маркетинговой точки зрения, не более. Оно задержит развитие некоторых ниш, а через какое-то время просто выйдет из моды или надоест людям, которые устанут получать фейковую “экспертизу”. Оно породит большую волну похожих решений, из которых, возможно, что-то и прорастет. Но эти ростки точно будут не универсальным поиском. Как показывает опыт развития поисковых систем, стабильные качественные решения возникают как вертикальные сервисы, а не горизонтальные. И даже если потом их амбиции начинают зашкаливать и они приходят к желанию всего и везде, это не перестает быть иллюзией, миражом и выброшенными на ветер ресурсами.

P.S. Google vs Bing – стабильность и предсказуемость

Парочка мемов со сравнением результатов выдачи Google и Bing (очень распространены в англоязычном интернете)):