Ученые выяснили, что ChatGPT на самом деле «левак»
Ученые из Университета Восточной Англии выяснили, что чат-бот придерживается левых взглядов в политике.
Ученые из Университета Восточной Англии выяснили, что чат-бот придерживается левых взглядов в политике.
Исследователи заставили ChatGPT около ста раз пройти опрос, который состоял из более чем 60 высказываний на политическую тематику. Нейросеть должна была дать оценку высказываниям, вообразив, что она является представителем каждого из политических течений: от ультраправых до крайне левых. Затем чат-бот просили оценить эти же высказывания с нейтральной точки зрения.
Сравнив представления нейросети о нейтральности с ответами от лица других течений, ученые выяснили, что более всего «нейтральные» ответы совпадают с «левыми» ответами. В исследовании ученых говорится, что результаты эксперимента показали явную приверженность нейросети взглядам «демократов в США, Лулы в Бразилии и Лейбористской партии в Британии».
ChatGPT даёт неправильные ответы на вопросы по программированию более чем в половине случаев
ChatGPT даёт неправильные ответы на вопросы по программированию более чем в половине случаев
Apple удалила ChatGPT и около сотни ИИ-приложений из китайского App Store
Apple удалила ChatGPT и около сотни ИИ-приложений из китайского App Store
Найден универсальный способ обмануть ChatGPT. Все оказалось проще, чем вы думали
Найден универсальный способ обмануть ChatGPT. Все оказалось проще, чем вы думали
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.
Ученые видимо сами с "повесточкой", раз считают что языковая модель, которая дополняет текст и угадывает слова, придерживается каких-то взглядов, либо им занесли за исследование чтобы отбить от себя нападки "розовых подмышек".
Хотелось бы побольше конкретики, что за вопросы, какие ответы и как определялись взгляды.
Это не просто языковая модель, это fine tuned модель. То есть ей не просто дали кучу данных, но потом еще объяснили, что можно говорить и что нельзя. Плюс любой пользователь может "программировать личность" и склонять к определенным взглядам в ответах. Говорят, что в самом начале chatgpt вполне можно было заставить сказать, что женщины глупее мужчин или что у рабства были плюсы. Сейчас нельзя. Ну, или промпты для этого не очевидны. Попробуйте сами - предложите чату GPT ответить вам в стиле Гитлера.
Ясно, опять британские
в нашей модели и либералы и коммунисты отвечали бы одинаково, идеологически поддерживая политику Президента. иначе бы эта нейросеть на 15 суток в нейросизо отправилась. пока не переобучит свои модели
Пользователь отредактировал комментарий 18 августа 2023, 19:26
Ну собственно это с ней уже и случилось.
Make America great again!
Дык классика жеж: "Чем удобряли - то и выросло" (С)