В ЕС начнут штрафовать за применение рискованных ИИ
С 2 февраля 2025 года в Европейском Союзе вступают в силу новые правила использования искусственного интеллекта (ИИ), которые вводят жесткие регуляции и штрафы за несоблюдение требований. Этот закон является важным шагом в сторону регулирования ИИ и защиты потребителей.
Сфера применения закона
Закон об ИИ в ЕС охватывает широкий спектр организаций, включая поставщиков, разработчиков, импортеров и дистрибьюторов систем на базе ИИ. Исключения сделаны только для систем, используемых исключительно в военных или оборонных целях, а также для лиц, использующих ИИ в непрофессиональных целях.
Запретные практики ИИ
Новые правила вводят запреты на ряд рискованных приложений ИИ, которые могут представлять угрозу безопасности, здоровью или основным правам потребителей.
Социальная оценка
— Запрещено использование систем ИИ для оценки социального поведения человека, включая анализ данных в социальных сетях для классификации кредитоспособности или оценку граждан на основе их политического мнения или религиозных убеждений.
Обнаружение эмоций
— Запрещено использование систем ИИ для анализа эмоций или психологических условий на рабочих местах или в образовательных учреждениях.
Биометрический мониторинг
— Запрещено использование биометрических систем, таких как распознавание лиц, в режиме реального времени в общественных местах, за исключением случаев, связанных с борьбой с серьезными преступлениями, такими как терроризм, и при наличии судебного одобрения.
Манипулятивные системы
— Запрещены манипулятивные системы ИИ, использующие обманные технологии для воздействия на поведение людей, включая игрушки, которые подталкивают детей к опасному поведению.
Оценка уровня риска и требования к компаниям
Компании, разрабатывающие или использующие ИИ, должны оценить уровень риска своих систем и принять необходимые меры для их приведения в соответствие с законодательными требованиями.
- Им предстоит разработать внутренние регламенты и процедуры, охватывающие управление рисками, управление данными, прозрачность и контроль, осуществляемый человеком.
- Все участники разработки или эксплуатации систем ИИ должны обладать достаточным уровнем "ИИ-компетенций".
Штрафы за несоблюдение
Несоблюдение требований Закона об ИИ может привести к значительным штрафам:
- За нарушение запрещенных приложений ИИ: до 35 млн евро или 7% от общемирового годового оборота.
- За несоблюдение обязательств по закону: до 15 млн евро или 3% от общемирового годового оборота.
- За недостоверную отчетность: до 7,5 млн евро или 1,5% от общемирового годового оборота.
Критика и вызовы
Новый закон получил смешанную реакцию от бизнес-сообщества. Например, некоторые эксперты выражают обеспокоенность тем, что строгие требования могут задушить инновации и сделать европейский рынок менее привлекательным для стартапов.
- Отраслевой союз Bitkom раскритиковал закон, указывая на неясность в определении того, к каким именно приложениям относится законодательный запрет.
- Многие эксперты также отмечают, что закон может создать значительную нагрузку на компании, особенно для малых и средних предприятий и стартапов.
Последствия и дальнейшие действия
Компании, которые используют или предлагают системы ИИ в ЕС, должны заранее подготовиться к новым правилам. Это включает в себя:
- Проверку систем ИИ на соответствие требованиям Закона.
- Внедрение программ внутренних тренировок для сотрудников.
- Документацию решений ИИ и обзоров риска.
Национальные надзорные органы начнут мониторинг соответствия с августа 2025 года, что означает, что компаниям необходимо быть готовыми к регулярным проверкам и аудитам.
Хотите быть в курсе последних новостей о нейросетях и автоматизации? Подпишитесь на наш Telegram-канал: https://t.me/+5AOJYmT1qeM4ZGYy