Закон запретит технологии, способствующие организации социального рейтинга.
Европарламент принял закон об искусственном интеллекте. За него проголосовали в Страсбурге 523 законодателя, только 46 были против и 49 воздержались, сообщает Total.kz со ссылкой на euronews.
Это первый в мире нормативный акт по регулированию искусственных интеллектов. В его основе лежит принцип снижения рисков при использовании передовой технологии. Акт предусматривает, что основанным на ИИ технологиям будут присваивать категории риска: неприемлемая (технология будет запрещена), высокая, средняя и низкая.
По закону будет запрещено распознавание лиц в режиме реального времени, распознавание эмоций на рабочем месте и в школах, социальный рейтинг, технологии ИИ, которые манипулируют поведением человека или использует его уязвимости. Также предусматривается маркировка изображений, созданных нейросетями без непосредственного участия человека, до полного запрета некоторого контента. Строго ограничивается использование индивидуальных, этнических или религиозных характеристик для идентификации людей или распознавания их эмоций.
Для некоторых таких запретов предусмотрены исключения в случаях, когда это затрагивает интересы безопасности. По этому вопросу были самые большие разногласия между Европарламентом, который стремился к ужесточению контроля за ИИ, и государствами — членами ЕС, которые хотели дать своим силовым ведомствам допуск к системам ИИ для пресечения актов терроризма или торговли людьми.
«Мы обязали правоохранительные органы и спецслужбы обращаться за разрешением в суд, если им нужна такая технология. Мы ограничили сферу использования её очень строгим набором преступлений, в том числе тяжких, чтобы у правоохранительных органов не возникло соблазна постоянно использовать эту технологию в общественных местах», — заявил румынский либерал Драгош Тудораке.
С другой стороны, евродепутат от немецких «зеленых» Патрик Байер считает, что закон легализует применение искусственного интеллекта без крайней необходимости.
«Ни один террорист не был обнаружен с помощью массовой слежки в режиме реального времени. Но она имеет очень вредный эффект, когда способствует дискриминации меньшинств, поскольку сведения об их деятельности при этом часто искажаются, — отметил Патрик Байер.
Акт ещё должен одобрить Европейский совет. Ожидается, что закон будет официально одобрен на политическом и техническом уровне в мае. В ноябре вступят в силу предусмотренные им запреты, а к 2027 году закон об искусственном интеллекте полностью вступит в силу.
