Губернатор Калифорнии наложил вето на спорный законопроект о регулировании ИИ

Губернатор Калифорнии Гэвин Ньюсом наложил вето на законопроект SB 1047, который предполагает правила регулирования искусственного интеллекта. Согласно документу, разработчики должны тестировать самые мощные ИИ-системы на безопасность, а также нести ответственность, если выпущенные модели причинили существенный вред.

Правила применялись бы только к моделям стоимостью не менее $100 миллионов долларов. Вычислительная мощность, затраченная на их обучение, должна превышать 10^26 операций в секунду с целыми числами или плавающей запятой. Под действие закона попали бы все  современные ИИ-модели.

«Хотя законопроект SB 1047 имеет благие намерения, он не учитывает, развернута ли система ИИ в средах с высоким риском, предполагает ли она принятие критически важных решений или использование конфиденциальных данных. Вместо этого законопроект применяет строгие стандарты даже к самым базовым функциям — при условии, что его развертывает крупная система. Я не считаю, что это лучший подход к защите общественности от реальных угроз, создаваемых технологией», — заявил Ньюсом.

Многие руководители технологических компаний и политики Калифорнии выступают против принятия законопроекта. Критики SB 1047 считают, что законопроект уничтожит инновации, сделав разработку ИИ-систем юридически рискованной. Также противники новых правил указывают, что следует наказывать тех, кто использовал ИИ во вред, а не самих разработчиков.

За принятие законопроекта выступили Илон Маск и компания Anthropic. Они утверждали, что закон лишь формализует обязательства, которые технологические компании уже взяли на себя добровольно. Ранее Ньюсом подписал 17 законов, охватывающих многие стороны генеративных технологий, в том числе борьбу с дипфейками во время выборов, требование использования водяных знаков на контенте ИИ, защиту детей от дезинформации и т. д.

Губернатор Калифорнии обратился к ведущим ИИ-экспертам помочь штату разработать новые правила для генеративных ИИ-систем: профессора Стэнфордского университета, «крестную мать ИИ» Фей-Фей Ли; члена Комитета Национальной академии наук по социальным и этическим последствиям компьютерных исследований Тино Куэльяра, декана Колледжа вычислительной техники, науки о данных и общества Калифорнийского университета в Беркли Дженнифер Тур Чейес.