В ЕС согласован первый в мире закон об искусственном интеллекте

По закону, разработчики важнейших ИИ-систем общего назначения, которые подпадают под определённые критерии, должны будут проводить оценку их риска, состязательное тестирование, составлять отчёты об инцидентах и выполнять другие меры.

Кроме того, разработчики должны будут обеспечить прозрачность этих систем путём предоставления подробных разборов материалов, используемых при обучении ИИ-систем. Например, создательница ChatGPT OpenAI до сих пор отказывается раскрывать эти сведения.

Также закрепляется право граждан на подачу жалоб на ИИ-системы и получение разъяснений о решениях по «высокорисковым» системам, которые затрагивают их права.

Подробностей о том, как всё будет работать или о каких именно критериях идёт речь, в пресс-релизе нет. Однако есть упоминание о штрафах за несоблюдение закона. Суммы будут зависеть от серьёзности нарушения и размера компании и варьироваться от €35 млн или 7% глобальной выручки до €7,5 млн или 1,5% оборота.

В ряде сфер предусмотрен запрет на использование ИИ, включая сбор изображений лиц с записей камер видеонаблюдения, категоризацию на основе «чувствительных» параметров, таких как раса, сексуальная ориентация или политические взгляды, распознавание эмоций в школах и на рабочих местах, а также создание систем социального рейтинга. Также в законе прописаны меры и исключения для правоохранителей по использованию биометрических систем, как в режиме реального времени, так и для поиска улик в записях.

Окончательное соглашение должно быть достигнуто до конца этого года. Текст должен быть ратифицирован Европарламентом в начале 2024 года, а вступить в силу закон сможет не ранее 2025-го.