Чатбот Microsoft «похоронил» чатбота Google после того, как он «похоронил» сам себя

Пару дней назад кто-то на Hacker News пошутил, что Google закроет Bard через год. Другой пользователь в комментариях попросил ChatGPT сгенерировать новость о том, что Google закрыла Bard спустя менее чем через полгода после релиза, потому что тот якобы не смог стать популярным. Далее действие перемещается в Twitter, где один из юзеров рассказал, что спросил Bard насчёт его закрытия. На удивление, чатбот сказал, что его и так уже закрыли (что, очевидно, неправда), сославшись на тот самый комментарий с Hacker News. Вскоре о твите и чатботе, который сам не может определить, жив он или мёртв, написал портал Windows Central.

После этого журналисты The Verge решили спросить по поводу Bard уже у Bing. Неожиданным образом чатбот Microsoft тоже согласился, что Bard таки закрыт, сославшись на статью Windows Central. К моменту выхода материала The Verge в Microsoft успели исправить ошибку — Bard теперь отвечает, что Bard всё ещё дышит (и это правда).

Плюс, отмечают журналисты, во всём этом в том, что ошибки чатботов хотя бы можно исправить. Минусов гораздо больше: например, пока что нет удобного способа сообщать о таких ошибках разработчикам. Кроме того, чатботы на текущий момент не умеют фильтровать информацию и источники, отличать факты от вымысла, интерпретировать комментарии о самих себе и путаются в своих же способностях. Это может привести к распространению фейков в ответах самих чатботов и в дальнейшем в интернете, а также к падению доверия к информации в сети. В данном случае отправной точкой стала безобидная шутка на форуме, но если кто-то захочет намеренно сломать подобные ИИ-системы, всё может быть гораздо опаснее. Дисклеймеры Google и других разработчиков, что их чатботы «всего лишь эксперимент», «пока на ранней стадии» и «могут ошибаться», будут слабым оправданием.