В ЕС начнут штрафовать за применение рискованных ИИ

С 2 февраля 2025 года в Европейском Союзе вступают в силу новые правила использования искусственного интеллекта (ИИ). Эти нормы, известные как Закон ЕС об искусственном интеллекте (AI Act), предусматривают строгие регуляции и значительные штрафы за несоблюдение. Основной целью этого закона является обеспечение безопасности, прозрачности и защита фундаментальных прав граждан.

Основные цели закона

Закон о ИИ направлен на защиту здоровья, безопасности и прав потребителей. Он гарантирует, что самые рискованные приложения на базе ИИ будут действовать в рамках жестких норм, обеспечивая защиту пользователей и общества в целом.

Запреты на рискованные приложения ИИ

Новые правила вводят несколько ключевых запретов на использование ИИ, которые считаются неприемлемо рискованными:

Социальная оценка

— Исчерчивается использование систем ИИ для оценки людей на основе их социального поведения или личных характеристик. Это включает в себя, например, анализ данных в социальных сетях для классификации кредитоспособности или оценку граждан на основе их политических взглядов и религиозных убеждений.

Обнаружение эмоций

— Запрещается использование систем ИИ для анализа эмоций или психологических состояний в определённых местах, таких как рабочие помещения или образовательные учреждения.

Биометрический мониторинг

— Применение биометрических систем в реальном времени в общественных местах, таких как вокзалы, будет ограничено, за исключением случаев, связанных с борьбой с тяжёлыми преступлениями и при наличии судебного разрешения.

Манипулятивный ИИ

— Законы вводят запрет на системы, которые могут использовать психологические уязвимости людей для манипуляции. Примеры таких систем включают языково-контролируемые игрушки, способствующие рискованному поведению детей или рекламу, которая манипулирует пользователями для нежелательных покупок.

Прогнозирующая полицейская деятельность

— Запрещены системы ИИ, которые классифицируют людей как потенциальных преступников на основании личностных особенностей или социальных факторов, если это не обосновано объективными данными и судимостью.

Обязательное обучение и компетенция

Закон также обязывает работодателей обеспечивать обязательное обучение для сотрудников, работающих с системами ИИ. Это предполагает развитие технической грамотности, понимание рисков, таких как дискриминация, и критическое отношение к решениям, принятым ИИ.

• Техническое понимание используемых инструментов ИИ,
• Осознание рисков, таких как дискриминация или проблемы с защитой данных,
• Критическое отражение решений ИИ.

Штрафы и наказания

Компании, которые не выполняют требования Закона о ИИ, могут столкнуться с серьёзными штрафами:

• До 35 миллионов евро или 7% от глобального годового оборота,
• Ответственность за ущерб, вызванный неправильным использованием ИИ,
• Запрет на операции, если компания неоднократно нарушает правила ИИ.

Надзор и мониторинг

Страны-члены ЕС должны назначить национальные органы, отвечающие за контроль соблюдения этого законодательства. На уровне ЕС такой контроль будет осуществлять Офис по искусственному интеллекту (AI Office) и три совещательных органа: Европейское правление по вопросам ИИ, совет независимых экспертов и консультативный форум с участием заинтересованных сторон.

Критика и взгляды бизнеса

Отраслевой союз Bitkom выразил недовольство по поводу нового закона, отметив, что он создаёт неопределённость в правовом поле и может подавить инновации, накладывая тяжёлые бремена на компании. Это может сделать европейский рынок менее привлекательным для стартапов.

Заключение

Введение Закона ЕС об искусственном интеллекте — это значительный шаг в регуляции использования ИИ в Европе. Хотя закон нацелен на безопасность и защиту прав граждан, он также вызывает опасения среди бизнес-сообщества по поводу возможного торможения инноваций.

Хотите быть в курсе последних новостей о нейросетях и автоматизации? Подпишитесь на наш Telegram-канал: https://t.me/+5AOJYmT1qeM4ZGYy