Искусственный интеллект (ИИ) все шире применяется в компаниях – например, при подборе персонала, в обслуживании клиентов, управлении производственными процессами или в системах поддержки принятия решений. При этом многие руководители недооценивают, что использование ИИ – это не просто технический вопрос, а сфера, напрямую затрагивающая законные обязанности управляющих директоров и членов правления.
С вступлением в силу Регламента ЕС об искусственном интеллекте (Регламент об ИИ / AI Act) правовые требования стали значительно более конкретными и строгими. Для руководителей компаний из этого вытекают новые обязанности в области организации, контроля и обучения.
Использование ИИ – управленческое решение
Решение о том, применять ли ИИ в компании и каким образом, относится к ключевой сфере ответственности руководства. Управляющие директора обязаны принимать это решение самостоятельно и нести за него ответственность. Они могут привлекать экспертов для консультаций, однако не вправе полностью делегировать ответственность.
Особо важно: даже простое попустительство использованию ИИ сотрудниками – например, посредством свободно доступных инструментов, таких как чат-боты или программы перевода, – может иметь правовые последствия. Руководство должно знать, где, с какой целью и с какими рисками используется ИИ.
Регламент ЕС об ИИ: что компании должны учитывать уже сейчас
Регламент об ИИ действует с августа 2024 года и применяется поэтапно. С 2 февраля 2025 года уже вступили в силу ключевые обязательства, в частности в отношении запрещённых систем ИИ и так называемой ИИ-компетентности.
Регламент основан на риск-ориентированном подходе. В зависимости от сферы применения системы ИИ относятся к различным категориям риска, например:
- запрещённые системы ИИ с недопустимым уровнем риска (например, определённые манипулятивные или системы слежки),
- системы ИИ высокого риска (в том числе многие применения в сфере HR),
- системы ИИ с низким или минимальным уровнем риска.
Нарушения могут повлечь значительные штрафы – до 35 млн евро или до 7 % мирового годового оборота.
Обязанность обеспечения достаточной ИИ-компетентности
Одним из наиболее важных и часто недооцениваемых нововведений является статья 4 Регламента об ИИ. В соответствии с ней компании обязаны обеспечить, чтобы все лица, которые эксплуатируют или профессионально используют системы ИИ, обладали достаточным уровнем ИИ-компетентности.
Эта обязанность действует:
- независимо от размера компании,
- в отношении всех систем ИИ, а не только систем высокого риска,
- непосредственно с 2 февраля 2025 года.
ИИ-компетентность не сводится исключительно к техническим знаниям. Сотрудники должны, в частности, понимать:
- как функционируют системы ИИ,
- какие возможности и риски связаны с их использованием,
- как критически оценивать результаты (например, во избежание ошибочных решений),
- какие правовые ограничения применимы (защита данных, недискриминация, защита коммерческой тайны).
Кого касается обязанность по обучению?
Обучению подлежат в принципе все лица, которые используют ИИ в компании или несут ответственность за его применение, в частности:
- сотрудники и руководители,
- внешние подрядчики, если они используют ИИ по поручению компании,
- сами члены руководства.
На практике часто рекомендуется проводить базовое обучение для всех сотрудников, дополняя его углублёнными программами для отдельных функций, например в сфере HR, ИТ, управления или юридического отдела.
Содержание правомерного обучения по ИИ
Эффективная программа обучения должна, среди прочего, охватывать следующие темы:
- выявление и классификация систем ИИ,
- основы функционирования ИИ,
- правовые рамочные условия (Регламент об ИИ, GDPR, трудовое право),
- работа с рисками, такими как смещения (bias), дискриминация и «галлюцинации»,
- требования к прозрачности, человеческому контролю и документации,
- внутренние правила компании и лучшие практики использования ИИ.
Цель состоит в том, чтобы сотрудники могли применять ИИ компетентно, ответственно и в соответствии с законодательством.
Риски ответственности для управляющих директоров
Обязанность обеспечения достаточной ИИ-компетентности является частью общей обязанности руководства по соблюдению законности и надлежащей организации. В случае её нарушения возможны:
- личная ответственность управляющего директора за организационные нарушения,
- административные санкции и штрафы,
- последующие проблемы в области защиты данных и трудового права,
- существенный репутационный ущерб.
Использование ИИ без чётких правил, обучения и контроля представляет собой высокий правовой риск.
Вывод: ИИ требует чётких структур и правового сопровождения
Компаниям следует подходить к использованию ИИ стратегически и с соблюдением правовых требований. В частности, это включает:
- инвентаризацию всех используемых систем ИИ,
- правовую оценку рисков,
- внедрение структур обучения и корпоративного управления,
- чёткие внутренние правила использования ИИ.
Руководители, которые начнут действовать уже сейчас, не только обеспечат правовую определённость, но и заложат основу для ответственного и успешного использования ИИ в компании.
Примечание: настоящий материал не претендует на полноту и не является индивидуальной юридической консультацией, а предназначен исключительно для общей информации. По конкретным вопросам рекомендуется обращаться за юридической помощью. Если вам требуется правовая консультация, вы можете связаться с вашей гамбургской юридической фирмой BALIN LEGAL по адресу info@balin-legal.de.
