Два комитета Европарламента, специализирующихся на вопросах искусственного интеллекта (ИИ), поддержали предложенные поправки в законопроект об ИИ, направленные на запрет определенных видов использования этой технологии. Информацию об этом сообщило агентство Reuters.
Одна из поправок касается ограничений на применение программ распознавания лиц в общественных местах, а также алгоритмов, используемых в предиктивной полицейской деятельности.
Также внесенные изменения в законопроект предусматривают требования к прозрачности для разработчиков генеративных моделей. Им потребуется помечать контент, созданный при помощи ИИ, а также предоставлять информацию о материалах, использованных при обучении.
Один из депутатов Европарламента, представитель Зеленых партий, Ким ван Спаррентак, отметил, что это голосование является важным шагом в регулировании искусственного интеллекта. Он подчеркнул, что ИИ должен служить интересам людей, общества и окружающей среды, а не наоборот.
Помимо этого, законопроект требует создания общедоступной базы данных для систем искусственного интеллекта, представляющих «высокий риск» и используемых государственными органами.
В целом, документ охватывает множество областей применения ИИ, включая распознавание лиц, генеративные алгоритмы и автономные транспортные средства. Все системы классифицируются на три категории: низкий риск, высокий риск и неприемлемые. Системы с низким риском не подлежат регулированию, системы с высоким риском должны соответствовать определенным правилам, а неприемлемые системы запрещены.
В качестве примера системы, относящейся к неприемлемым, европейские депутаты упомянули системы социального рейтинга или использование технологий для манипулирования общественным мнением. Высокорискованными алгоритмами считаются беспилотные автомобили, медицинские приборы и другие технологии, сбой в которых может угрожать жизни человека.
Предполагается, что компании, использующие искусственный интеллект, будут обязаны оценивать риски с точки зрения «здоровья, соблюдения фундаментальных прав, демократии и окружающей среды».
Законопроект включает ряд запретов, в том числе запрет на использование распознавания лиц в режиме реального времени в общественных местах, сбор биометрических данных для обучения систем идентификации с помощью камер и социальных сетей, применение технологий распознавания эмоций полицией, работодателями или в учебных заведениях, а также эксплуатацию ИИ-систем, разделяющих пользователей по демографическим признакам и использование систем прогнозирования совершения преступлений.
Общее количество рассмотренных депутатами поправок составило около 3000. Теперь документ будет подвергнут голосованию в Европарламенте.
После вступления закона в силу участникам рынка будет предоставлено около двух лет для приведения своей деятельности в соответствие с новыми правилами.
Нарушителей регламента ожидают штрафы в размере 6% от годовой выручки или до 30 миллионов евро.
Напомним, в апреле группа европейских законодателей объявила о планах разработки проекта правил для контроля и регулирования развития систем искусственного интеллекта.