Штучний інтелект (ШІ) дедалі активніше використовується в компаніях – зокрема у підборі персоналу, обслуговуванні клієнтів, управлінні виробничими процесами або в системах підтримки ухвалення рішень. Водночас багато керівників недооцінюють те, що використання ШІ є не лише технічним питанням, а й безпосередньо стосується законодавчих обов’язків директорів і членів органів управління.
Із набранням чинності Регламенту ЄС про штучний інтелект (Регламент про ШІ / AI Act) правові вимоги стали значно конкретнішими та суворішими. Для керівників компаній з цього випливають нові обов’язки у сфері організації, контролю та навчання.
Використання ШІ – управлінське рішення
Рішення про те, чи і яким чином ШІ застосовується в компанії, належить до ключової сфери відповідальності керівництва. Директори повинні ухвалювати це рішення самостійно та нести за нього відповідальність. Вони можуть залучати фахівців для консультацій, але не мають права повністю делегувати відповідальність.
Особливо важливо: навіть просте допущення використання ШІ працівниками – наприклад, за допомогою вільно доступних інструментів, таких як чат-боти чи програми перекладу, – може мати юридичне значення. Керівництво повинно знати, де, з якою метою та з якими ризиками використовується ШІ.
Регламент ЄС про ШІ: що компаніям слід враховувати вже зараз
Регламент про ШІ діє з серпня 2024 року та застосовується поетапно. З 2 лютого 2025 року вже набули чинності ключові обов’язки, зокрема щодо заборонених систем ШІ та так званої ШІ-компетентності.
Регламент ґрунтується на ризик-орієнтованому підході. Залежно від сфери застосування системи ШІ відносяться до різних категорій ризику, зокрема:
- заборонені системи ШІ з неприйнятним рівнем ризику (наприклад, окремі маніпулятивні або наглядові системи),
- системи ШІ високого ризику (зокрема багато застосувань у сфері HR),
- системи ШІ з низьким або мінімальним рівнем ризику.
Порушення можуть каратися значними штрафами – до 35 млн євро або до 7 % світового річного обороту.
Обов’язок забезпечення достатнього рівня ШІ-компетентності
Однією з найважливіших і водночас часто недооцінених новел є стаття 4 Регламенту про ШІ. Відповідно до неї компанії зобов’язані забезпечити, щоб усі особи, які експлуатують або професійно використовують системи ШІ, мали достатній рівень ШІ-компетентності.
Цей обов’язок діє:
- незалежно від розміру компанії,
- щодо всіх систем ШІ, а не лише систем високого ризику,
- безпосередньо з 2 лютого 2025 року.
ШІ-компетентність не обмежується лише технічними знаннями. Працівники повинні, зокрема, розуміти:
- як функціонують системи ШІ,
- які можливості та ризики пов’язані з їх використанням,
- як критично оцінювати результати (наприклад, щоб уникати помилкових рішень),
- які правові обмеження застосовуються (захист даних, недискримінація, захист комерційної таємниці).
Кого стосується обов’язок навчання?
Навчанню підлягають загалом усі особи, які використовують ШІ в компанії або відповідають за його застосування, зокрема:
- працівники та керівники,
- зовнішні підрядники, якщо вони використовують ШІ за дорученням компанії,
- самі члени керівництва.
На практиці часто рекомендується проводити базове навчання для всіх працівників, доповнюючи його поглибленими тренінгами для окремих функцій, наприклад у сфері HR, ІТ, управління або юридичного відділу.
Зміст правомірного навчання з питань ШІ
Ефективна програма навчання повинна, серед іншого, охоплювати такі теми:
- виявлення та класифікація систем ШІ,
- основи функціонування ШІ,
- правові рамки (Регламент про ШІ, GDPR, трудове право),
- робота з ризиками, такими як упередження (bias), дискримінація та «галюцинації»,
- вимоги щодо прозорості, людського контролю та документації,
- внутрішні правила компанії та найкращі практики використання ШІ.
Мета полягає в тому, щоб працівники могли використовувати ШІ компетентно, відповідально та відповідно до законодавства.
Ризики відповідальності для директорів
Обов’язок забезпечення достатнього рівня ШІ-компетентності є частиною загального обов’язку керівництва щодо дотримання законності та належної організації. У разі його порушення можливі:
- особиста відповідальність директора за організаційні порушення,
- адміністративні санкції та штрафи,
- подальші проблеми у сфері захисту даних і трудового права,
- значна шкода репутації.
Використання ШІ без чітких правил, навчання та контролю є серйозним правовим ризиком.
Висновок: ШІ потребує чітких структур і правового супроводу
Компаніям слід підходити до використання ШІ стратегічно та з дотриманням правових вимог. Зокрема, це включає:
- інвентаризацію всіх використовуваних систем ШІ,
- правову оцінку ризиків,
- запровадження структур навчання та корпоративного управління,
- чіткі внутрішні правила використання ШІ.
Керівники, які почнуть діяти вже зараз, не лише забезпечать правову визначеність, а й закладуть основу для відповідального та успішного використання ШІ в компанії.
Примітка: цей матеріал не претендує на повноту та не є індивідуальною юридичною консультацією, а призначений виключно для загального інформування. У разі конкретних питань рекомендується звернутися за правовою допомогою.
Якщо вам потрібна юридична консультація, звертайтеся до вашої гамбурзької юридичної фірми BALIN LEGAL за адресою info@balin-legal.de.
