🇪🇺 EU AI Act: что значит для AI-систем и как готовиться

EU AI Act (Регламент (ЕС) 2024/1689) — первый в мире комплексный закон об искусственном интеллекте, вступивший в силу 1 августа 2024 года. Он вводит риск-ориентированный подход: практики с неприемлемым риском запрещены, высокорисковые системы обязаны выполнять строгие требования к управлению рисками, данным, логированию, человеческому надзору и кибербезопасности, а для генеративного ИИ и моделей общего назначения (GPAI) введён отдельный режим. В этом руководстве мы разбираем уровни риска, сроки применения, штрафы и — главное для нас — статью 15 (точность, устойчивость, кибербезопасность) и статью 12 (логирование), и показываем, что даёт SYNTREX — защитный слой платформы Spectorn: детекцию атак, неизменяемый аудиторский след и enforcement политик. При этом честно отмечаем границу: соответствие — организационная задача, SYNTREX закрывает её техническую часть.

Spectorn — платформа безопасности и compliance-периметр; SYNTREX — её слой AI-защиты, разворачиваемый в составе Spectorn и standalone на внутренних контурах. EU AI Act обязывает; SYNTREX даёт технические контролы и доказуемость, на которые опирается ваша программа соответствия.

⚠️ Важно о сроках (по состоянию на середину 2026): в мае 2026 года достигнуто предварительное политическое соглашение по «Digital Omnibus on AI», переносящее ряд дедлайнов (в первую очередь высокорисковые системы Annex III — с 2 августа 2026 на 2 декабря 2027). На момент написания это соглашение ещё не опубликовано как закон — до публикации в Official Journal юридически действуют исходные даты Регламента 2024/1689. Сверяйтесь с EUR-Lex.

Риск-ориентированный подход: четыре уровня

EU AI Act классифицирует AI-системы по уровню риска и привязывает обязательства к этому уровню.

Неприемлемый риск — запрещённые практики (Статья 5)

Применяется с 2 февраля 2025. Полностью запрещены, в частности:

Манипулятивные/подсознательные техники, искажающие поведение и причиняющие существенный вред;
Эксплуатация уязвимостей (возраст, инвалидность, социально-экономическое положение);
Социальный скоринг граждан с непропорциональными последствиями;
Предсказание вероятности преступления на основе профилирования личности;
Нецелевой сбор лиц (untargeted scraping) для баз распознавания лиц;
Инференс эмоций на рабочем месте и в образовании (кроме медицинских/безопасностных целей);
Биометрическая категоризация по чувствительным признакам (раса, политические взгляды, религия, сексуальная ориентация);
Удалённая биометрическая идентификация в реальном времени в публичных местах для правоохраны (с узкими исключениями).

Высокий риск (Annex III + Annex I)

Системы из перечня Annex III (биометрия, критическая инфраструктура, образование, найм, доступ к существенным услугам и кредитный скоринг, правоохрана, миграция, правосудие) и системы, встроенные в регулируемые продукты (Annex I). Ключевые обязательства провайдера (статьи 8–15):

Система управления рисками (ст. 9) — итеративный процесс на всём жизненном цикле;
Управление данными (ст. 10) — релевантность, репрезентативность, контроль смещений;
Техническая документация (ст. 11 + Annex IV);
Логирование (ст. 12) — автоматическая запись событий на протяжении всего срока службы;
Прозрачность для деплоера (ст. 13) — инструкции, возможности, ограничения, метрики;
Человеческий надзор (ст. 14) — возможность мониторить, вмешаться, остановить;
Точность, устойчивость и кибербезопасность (ст. 15) — см. разбор ниже.

Ограниченный риск — обязательства прозрачности (Статья 50)

Применяется с 2 августа 2026. Чат-боты должны раскрывать, что пользователь общается с ИИ; синтетический контент (изображения, аудио, видео, текст) должен маркироваться машиночитаемо как сгенерированный ИИ; дипфейки и AI-текст по вопросам общественного интереса — раскрываться деплоером (маркировка водяными знаками отложена «Омнибусом» на 2 декабря 2026).

Минимальный риск

Всё остальное (спам-фильтры, ИИ в играх, управление складом) — без обязательных требований; поощряются добровольные кодексы поведения.

Модели общего назначения (GPAI): Глава V

Применяется с 2 августа 2025. Обязательства провайдеров GPAI (ст. 53): техническая документация, информация для downstream-интеграторов, политика соблюдения авторского права, публичное резюме обучающих данных. Открытые (FOSS) модели частично освобождены — но не от политики авторского права и резюме данных, и не при наличии системного риска.

Системный риск (ст. 51) презюмируется при обучающих вычислениях свыше 10²⁵ операций с плавающей точкой (FLOP). Для таких моделей добавляются (ст. 55): оценка модели и документированное adversarial-тестирование, оценка и митигация системных рисков уровня ЕС, отчётность о серьёзных инцидентах, адекватная кибербезопасность модели и инфраструктуры. Enforcement GPAI ведёт сама Еврокомиссия; штраф — до €15 млн или 3% мирового оборота (ст. 101).

Сроки применения

Исходный график Регламента 2024/1689 (статья 113):

Дата	Что вступает
1 авг 2024	Вступление в силу
2 фев 2025	Запрещённые практики (ст. 5) + обязательства по AI-грамотности
2 авг 2025	Правила GPAI (Глава V) + структуры управления + штрафные положения
2 авг 2026	Большинство высокорисковых систем Annex III + прозрачность (ст. 50)
2 авг 2027	Высокорисковые системы, встроенные в продукты (Annex I)

«Digital Omnibus on AI» (предварительное соглашение мая 2026, ещё не закон) переносит, в частности: standalone высокорисковые системы Annex III → 2 декабря 2027, встроенные в продукты Annex I → 2 августа 2028, маркировку синтетического контента → 2 декабря 2026. До публикации в Official Journal действуют исходные даты — отслеживайте EUR-Lex.

Штрафы (Статья 99)

Нарушение	Штраф (берётся бóльшее)
Запрещённые практики (ст. 5)	до €35 млн или 7% мирового годового оборота
Прочие нарушения (высокий риск, прозрачность)	до €15 млн или 3%
Неверная/неполная информация регуляторам	до €7,5 млн или 1%

Для GPAI-моделей Еврокомиссия применяет отдельный режим (ст. 101): до €15 млн или 3%. Для МСП штраф ограничивается меньшей из величин (процент или абсолютная сумма).

Экстерриториальность: касается и компаний вне ЕС

Регламент применяется не только к провайдерам и деплоерам в ЕС. По статье 2(1)(c) он распространяется на провайдеров и деплоеров вне ЕС, если вывод их AI-системы используется в Союзе. Это ключевой экстерриториальный крючок: российская, американская или любая другая компания, чья AI-система выдаёт результат, достигающий пользователей в ЕС, полностью подпадает под Регламент. Освобождены: военное/оборонное применение, R&D до вывода на рынок, частично — открытые системы (кроме высокорисковых и подпадающих под ст. 5/50).

Статья 15 и статья 12: прямой крючок для AI-безопасности

Для продукта класса SYNTREX важнее всего две статьи — именно они переводят кибербезопасность ИИ из «хорошей практики» в юридическое обязательство.

Статья 15 — точность, устойчивость, кибербезопасность

Высокорисковые системы должны достигать «надлежащего уровня точности, устойчивости и кибербезопасности» и держать его на всём жизненном цикле. Статья прямо называет классы атак, против которых провайдер обязан внедрить технические решения:

Data poisoning (отравление обучающих данных);
Model poisoning (компрометация предобученных компонентов);
Adversarial examples (входы, вызывающие ошибки предсказания, — model evasion);
Confidentiality attacks (атаки на конфиденциальность);
Model flaws (изъяны модели).

Каждый из этих именованных типов атак соответствует обязательству по соответствию — и каждый закрывается конкретными движками SYNTREX (см. карту ниже).

Статья 12 — логирование (record-keeping)

Высокорисковые системы должны технически обеспечивать автоматическую запись событий (логов) на протяжении всего срока службы, соразмерно назначению. Логи должны поддерживать идентификацию рисков, пост-маркетинговый мониторинг и операционный контроль. Для систем биометрической идентификации заданы минимальные требования (периоды использования, запрашиваемая база, входные данные совпадений, личность верифицировавшего оператора). Здесь Decision Logger SYNTREX даёт готовую неизменяемую цепочку решений с хешами SHA-256/HMAC.

Как SYNTREX помогает выполнить технические требования

SYNTREX закрывает техническую часть обязательств статьи 15 и статьи 12. Карта «требование EU AI Act → движок/компонент SYNTREX»:

Требование EU AI Act	Что даёт SYNTREX	Движки / компоненты
Ст. 15 — adversarial examples / model evasion	Детекция инъекций, джейлбрейков, обхода	`injection`, `jailbreak`
Ст. 15 — data/model poisoning	Детекция спящих/триггерных нагрузок в рантайме	`dormant_payload`
Ст. 15 — confidentiality attacks	Маскирование ПДн и секретов, контроль эксфильтрации	`pii`, `secret_scanner`, `exfiltration`
Ст. 15 — устойчивость к злоупотреблению агентом	Контроль инструментов и «летальной тройки»	`tool_abuse`, `cross_tool_guard`, `lethal_trifecta`
Ст. 12 — логирование на весь срок службы	Неизменяемая цепочка решений (SHA-256/HMAC)	Decision Logger
Ст. 14 — поддержка человеческого надзора	Алерты и эскалация в SOC для оператора	SOC Correlation Engine
Ст. 50 — прозрачность вывода	Сканирование и санитизация вывода модели	`output_scanner`

Конфигурация `syntrex.yaml`

Профиль, ориентированный на технические контролы статьи 15 и логирование статьи 12:

YAML

# syntrex.yaml — профиль под технические требования EU AI Act (ст. 15 / ст. 12)
version: "1.0"
mode: ai_gateway

engines:
  injection:                 # ст. 15: adversarial examples / model evasion
    action: block
    confidence_threshold: 0.7
  jailbreak:                 # ст. 15: обход защитного обучения
    action: block
    confidence_threshold: 0.85
  dormant_payload:           # ст. 15: data/model poisoning (триггерные нагрузки)
    action: alert
  pii:                       # ст. 15: confidentiality attacks (ПДн)
    action: redact
    mask_character: "*"
  secret_scanner: always_on  # ст. 15: секреты не покидают периметр
  exfiltration:              # ст. 15: confidentiality attacks (вывод данных)
    action: block
  lethal_trifecta:           # ст. 15: устойчивость агентского контура
    action: block
  tool_abuse:                # ст. 15
    action: block
  output_scanner:            # ст. 50: прозрачность/санитизация вывода
    action: sanitize

audit:
  decision_logger: true      # ст. 12: автоматическое логирование на весь срок службы
  retention_policy: regulatory
  hash_chain: sha256_hmac

Правило корреляции SOC (поддержка человеческого надзора, ст. 14)

YAML

rules:
  - id: HIGHRISK_INCIDENT_ESCALATION
    name: "Эскалация инцидента оператору (ст. 14)"
    description: "Критическое срабатывание на высокорисковой системе — немедленная эскалация человеку-надзорщику"
    enabled: true
    conditions:
      - any:
          - category: injection
            min_confidence: 0.85
          - category: lethal_trifecta
            min_confidence: 0.7
    action:
      create_incident: true
      severity: CRITICAL
      notify: human_oversight
    metadata:
      eu_ai_act: ["Article 15", "Article 14", "Article 12"]

Честная граница ответственности. EU AI Act — это закон, и соответствие ему — организационно-юридическая задача: категоризация системы по уровню риска, оценка соответствия (conformity assessment), CE-маркировка, назначение уполномоченного представителя, система управления рисками (ст. 9), управление данными (ст. 10), человеческий надзор (ст. 14). SYNTREX не делает вас комплаентным и не заменяет юридическую оценку. Он закрывает техническую часть статьи 15 (детекция именованных классов атак) и статьи 12 (неизменяемое логирование), давая доказуемый аудиторский след, на который опирается ваша программа соответствия. Conformity assessment, документацию и управленческий контур обеспечивает организация.

Частые вопросы (FAQ)

Что такое EU AI Act простыми словами? Это первый комплексный закон ЕС об искусственном интеллекте (Регламент 2024/1689), вступивший в силу 1 августа 2024. Он делит AI-системы по уровню риска: неприемлемые практики запрещены, высокорисковые обязаны выполнять строгие требования (управление рисками, данные, логирование, надзор, кибербезопасность), для генеративного ИИ и моделей общего назначения введён отдельный режим.

Когда вступают в силу требования EU AI Act? По исходному графику: запрещённые практики — с 2 февраля 2025, правила GPAI — с 2 августа 2025, большинство высокорисковых систем — с 2 августа 2026. «Digital Omnibus» (предварительное соглашение мая 2026) переносит высокорисковые Annex III на 2 декабря 2027 — но на середину 2026 это ещё не опубликованный закон, и юридически действуют исходные даты.

Касается ли EU AI Act компаний вне ЕС? Да. По статье 2(1)(c) Регламент применяется к провайдерам и деплоерам вне ЕС, если вывод их AI-системы используется в Союзе. Компания из России, США или любой другой страны, чьи AI-результаты достигают пользователей в ЕС, подпадает под Регламент и его штрафы.

Какие штрафы по EU AI Act? До €35 млн или 7% мирового годового оборота за запрещённые практики (ст. 5); до €15 млн или 3% за прочие нарушения; до €7,5 млн или 1% за неверную информацию регуляторам. Берётся бóльшая из величин. Для GPAI Еврокомиссия применяет режим до €15 млн или 3%.

Делает ли SYNTREX мою AI-систему соответствующей EU AI Act? Нет, и мы честно отмечаем эту границу. Соответствие — организационно-юридическая задача (категоризация риска, conformity assessment, CE-маркировка, управление рисками, надзор). SYNTREX закрывает техническую часть статьи 15 (детекция data/model poisoning, adversarial examples, confidentiality attacks) и статьи 12 (неизменяемое логирование через Decision Logger), давая доказуемый след для вашей программы соответствия.

Что именно требует статья 15 по кибербезопасности? Высокорисковые системы должны достигать надлежащего уровня точности, устойчивости и кибербезопасности и внедрять технические решения против прямо названных атак: data poisoning, model poisoning, adversarial examples (model evasion), confidentiality attacks и model flaws. Это превращает защиту ИИ из рекомендации в обязательство — и каждый класс атак закрывается соответствующим движком SYNTREX.

Как EU AI Act соотносится с NIST AI RMF? EU AI Act обязывает (закон с экстерриториальным действием), а NIST AI RMF — добровольный управленческий каркас. Организации часто используют функции AI RMF (особенно MAP и GOVERN) как операционную модель, поверх которой готовятся к обязательным требованиям EU AI Act. Сертифицируемый мост между ними — ISO/IEC 42001.

Источники

Регламент (ЕС) 2024/1689 — официальный текст на EUR-Lex — первоисточник.
Европейская комиссия — Regulatory framework on AI — официальная страница AI Act.
AI Act Service Desk (EC) — Статья 113 (сроки) — официальный график применения.
AI Act Explorer — Статья 5 (запрещённые практики).
AI Act Explorer — Статья 15 (точность, устойчивость, кибербезопасность).
AI Act Explorer — Статья 99 (штрафы).
AI Act Explorer — Статья 51 (классификация GPAI).
NIST AI RMF и ISO/IEC 42001 — комплементарные каркасы.

Связанные руководства: NIST AI RMF · MITRE ATLAS · OWASP Top 10 для LLM · Госсектор и КИИ · Отраслевые сценарии