Школьник нашёл способ обойти AI-алгоритм и получать 10 из 10 на тестах

Лазаря очень расстроил результат в одном из тестов по истории — он набрал лишь 50%. Мама подростка Дана попыталась подбодрить его, но потом заметила, что знания детей на Edgenuity оценивает не живой учитель, а алгоритм, поскольку сайт выдаёт отметку меньше чем за секунду после отправки ответа.

Женщина проанализировала «правильные ответы» на другие вопросы, которые система раскрывала в конце проверки. Оказалось, что AI просто ищет в тексте ответов ключевые слова, и исходя из этого подсчитывает баллы. Симмонс посоветовала сыну отвечать развёрнуто, вставляя максимум имён собственных, и стараться копировать ответы, которые «ожидает» система. Результативность Лазаря выросла до 80%.

Но 12-летний мальчик пошёл дальше: он решил писать по два полных предложения, а потом в произвольном порядке — набор главных слов из обучающих материалов. По словам матери, ребёнок стал получать высший балл по всем тестам.

В серии твитов Симмонс, которая является профессором истории, ставит под сомнение эффективность оценки успеваемости детей искусственным интеллектом. По её мнению, автоматизированные алгоритмы могут оказать более разрушительное воздействие на психику детей, чем кажется, и уничтожить их уверенность в себе.

Edgenuity содержит более 300 уроков для средней и старшей школы по разным школьным предметам и факультативам, а также видеолекции, задания, тесты и экзамены. Платформа никак не прокомментировала ситуацию с оценками. На сайте говорится, что по некоторым вопросам, если ответ ученика не содержит ни одного ключевого слова, система может не засчитать его вообще, или же дать 100%, если есть хотя бы одно такое слово.

Похожим методом пользовался ещё один школьник, который учился по Edgenuity несколько лет назад. Он рассказывает, что иногда, когда вообще не разбирался в теме, вводил только ключевые слова, и чаще всего это срабатывало.