В ЕС начнут штрафовать за применение рискованных ИИ

С 2 февраля 2025 года в Европейском Союзе вступают в силу новые правила использования искусственного интеллекта (ИИ), которые вводят жесткие регуляции и штрафы за несоблюдение требований. Этот закон является важным шагом в сторону регулирования ИИ и защиты потребителей.

Сфера применения закона

Закон об ИИ в ЕС охватывает широкий спектр организаций, включая поставщиков, разработчиков, импортеров и дистрибьюторов систем на базе ИИ. Исключения сделаны только для систем, используемых исключительно в военных или оборонных целях, а также для лиц, использующих ИИ в непрофессиональных целях.

Запретные практики ИИ

Новые правила вводят запреты на ряд рискованных приложений ИИ, которые могут представлять угрозу безопасности, здоровью или основным правам потребителей.

Социальная оценка

— Запрещено использование систем ИИ для оценки социального поведения человека, включая анализ данных в социальных сетях для классификации кредитоспособности или оценку граждан на основе их политического мнения или религиозных убеждений.

Обнаружение эмоций

— Запрещено использование систем ИИ для анализа эмоций или психологических условий на рабочих местах или в образовательных учреждениях.

Биометрический мониторинг

— Запрещено использование биометрических систем, таких как распознавание лиц, в режиме реального времени в общественных местах, за исключением случаев, связанных с борьбой с серьезными преступлениями, такими как терроризм, и при наличии судебного одобрения.

Манипулятивные системы

— Запрещены манипулятивные системы ИИ, использующие обманные технологии для воздействия на поведение людей, включая игрушки, которые подталкивают детей к опасному поведению.

Оценка уровня риска и требования к компаниям

Компании, разрабатывающие или использующие ИИ, должны оценить уровень риска своих систем и принять необходимые меры для их приведения в соответствие с законодательными требованиями.

• Им предстоит разработать внутренние регламенты и процедуры, охватывающие управление рисками, управление данными, прозрачность и контроль, осуществляемый человеком.
• Все участники разработки или эксплуатации систем ИИ должны обладать достаточным уровнем "ИИ-компетенций".

Штрафы за несоблюдение

Несоблюдение требований Закона об ИИ может привести к значительным штрафам:

• За нарушение запрещенных приложений ИИ: до 35 млн евро или 7% от общемирового годового оборота.
• За несоблюдение обязательств по закону: до 15 млн евро или 3% от общемирового годового оборота.
• За недостоверную отчетность: до 7,5 млн евро или 1,5% от общемирового годового оборота.

Критика и вызовы

Новый закон получил смешанную реакцию от бизнес-сообщества. Например, некоторые эксперты выражают обеспокоенность тем, что строгие требования могут задушить инновации и сделать европейский рынок менее привлекательным для стартапов.

• Отраслевой союз Bitkom раскритиковал закон, указывая на неясность в определении того, к каким именно приложениям относится законодательный запрет.
• Многие эксперты также отмечают, что закон может создать значительную нагрузку на компании, особенно для малых и средних предприятий и стартапов.

Последствия и дальнейшие действия

Компании, которые используют или предлагают системы ИИ в ЕС, должны заранее подготовиться к новым правилам. Это включает в себя:

• Проверку систем ИИ на соответствие требованиям Закона.
• Внедрение программ внутренних тренировок для сотрудников.
• Документацию решений ИИ и обзоров риска.

Национальные надзорные органы начнут мониторинг соответствия с августа 2025 года, что означает, что компаниям необходимо быть готовыми к регулярным проверкам и аудитам.

Хотите быть в курсе последних новостей о нейросетях и автоматизации? Подпишитесь на наш Telegram-канал: https://t.me/+5AOJYmT1qeM4ZGYy