В ЕС начнут штрафовать за применение рискованных ИИ
С 2 февраля 2025 года в Европейском Союзе вступают в силу новые правила использования искусственного интеллекта (ИИ). Эти нормы, известные как Закон ЕС об искусственном интеллекте (AI Act), предусматривают строгие регуляции и значительные штрафы за несоблюдение. Основной целью этого закона является обеспечение безопасности, прозрачности и защита фундаментальных прав граждан.
Основные цели закона
Закон о ИИ направлен на защиту здоровья, безопасности и прав потребителей. Он гарантирует, что самые рискованные приложения на базе ИИ будут действовать в рамках жестких норм, обеспечивая защиту пользователей и общества в целом.
Запреты на рискованные приложения ИИ
Новые правила вводят несколько ключевых запретов на использование ИИ, которые считаются неприемлемо рискованными:
Социальная оценка
— Исчерчивается использование систем ИИ для оценки людей на основе их социального поведения или личных характеристик. Это включает в себя, например, анализ данных в социальных сетях для классификации кредитоспособности или оценку граждан на основе их политических взглядов и религиозных убеждений.
Обнаружение эмоций
— Запрещается использование систем ИИ для анализа эмоций или психологических состояний в определённых местах, таких как рабочие помещения или образовательные учреждения.
Биометрический мониторинг
— Применение биометрических систем в реальном времени в общественных местах, таких как вокзалы, будет ограничено, за исключением случаев, связанных с борьбой с тяжёлыми преступлениями и при наличии судебного разрешения.
Манипулятивный ИИ
— Законы вводят запрет на системы, которые могут использовать психологические уязвимости людей для манипуляции. Примеры таких систем включают языково-контролируемые игрушки, способствующие рискованному поведению детей или рекламу, которая манипулирует пользователями для нежелательных покупок.
Прогнозирующая полицейская деятельность
— Запрещены системы ИИ, которые классифицируют людей как потенциальных преступников на основании личностных особенностей или социальных факторов, если это не обосновано объективными данными и судимостью.
Обязательное обучение и компетенция
Закон также обязывает работодателей обеспечивать обязательное обучение для сотрудников, работающих с системами ИИ. Это предполагает развитие технической грамотности, понимание рисков, таких как дискриминация, и критическое отношение к решениям, принятым ИИ.
- Техническое понимание используемых инструментов ИИ,
- Осознание рисков, таких как дискриминация или проблемы с защитой данных,
- Критическое отражение решений ИИ.
Штрафы и наказания
Компании, которые не выполняют требования Закона о ИИ, могут столкнуться с серьёзными штрафами:
- До 35 миллионов евро или 7% от глобального годового оборота,
- Ответственность за ущерб, вызванный неправильным использованием ИИ,
- Запрет на операции, если компания неоднократно нарушает правила ИИ.
Надзор и мониторинг
Страны-члены ЕС должны назначить национальные органы, отвечающие за контроль соблюдения этого законодательства. На уровне ЕС такой контроль будет осуществлять Офис по искусственному интеллекту (AI Office) и три совещательных органа: Европейское правление по вопросам ИИ, совет независимых экспертов и консультативный форум с участием заинтересованных сторон.
Критика и взгляды бизнеса
Отраслевой союз Bitkom выразил недовольство по поводу нового закона, отметив, что он создаёт неопределённость в правовом поле и может подавить инновации, накладывая тяжёлые бремена на компании. Это может сделать европейский рынок менее привлекательным для стартапов.
Заключение
Введение Закона ЕС об искусственном интеллекте — это значительный шаг в регуляции использования ИИ в Европе. Хотя закон нацелен на безопасность и защиту прав граждан, он также вызывает опасения среди бизнес-сообщества по поводу возможного торможения инноваций.
Хотите быть в курсе последних новостей о нейросетях и автоматизации? Подпишитесь на наш Telegram-канал: https://t.me/+5AOJYmT1qeM4ZGYy