Європарламент схвалив перший закон про штучний інтелект

Європарламент сьогодні, 13 березня 2024 року, ухвалив перший закон про штучний інтелект, який має гарантувати безпеку і дотримання основних прав громадян, одночасно стимулюючи інновації.

Регламент, узгоджений під час переговорів із державами-членами в грудні 2023 року, був схвалений євродепутатами 523 голосами «за», 46 «проти» та 49 утрималися.

Закон про штучний інтелект в ЄС

Закон спрямований на захист фундаментальних прав, демократії, верховенства права та стійкості навколишнього середовища від штучного інтелекту з високим ризиком, одночасно стимулюючи інновації та утверджуючи Європу як лідера в цій галузі. Регламент встановлює зобов’язання для ШІ на основі його потенційних ризиків і рівня впливу.

Заборонені програми

Нові правила забороняють певні додатки штучного інтелекту, які загрожують правам громадян, включно з системами біометричної категоризації на основі конфіденційних характеристик і нецільового збирання зображень обличчя з Інтернету або записів камер відеоспостереження для створення баз даних розпізнавання облич.

Розпізнавання емоцій на робочому місці та в школах, соціальна оцінка, прогнозна поліція (якщо вона ґрунтується виключно на профілюванні особи чи оцінці її характеристик), а також штучний інтелект, який маніпулює людською поведінкою або використовує вразливі місця людей, також буде заборонено.

Винятки для правоохоронних органів

Використання біометричних систем ідентифікації (СІР) правоохоронними органами в принципі заборонено, за винятком вичерпно перелічених і вузько визначених ситуацій.

RBI «в реальному часі» може бути розгорнуто лише за умови дотримання суворих заходів безпеки, наприклад, його використання обмежене за часом і географічно, а також за умови спеціального попереднього судового або адміністративного дозволу.

Такі види використання можуть включати, наприклад, цілеспрямований пошук зниклої особи або запобігання терористичному нападу.

Використання таких систем постфактум («після віддаленого RBI») вважається випадком використання з високим ризиком, який потребує судового дозволу, пов’язаного з кримінальним злочином.

Зобов'язання для систем високого ризику

Чіткі зобов’язання також передбачені для інших систем штучного інтелекту з високим ризиком (через їх значну потенційну шкоду для здоров’я, безпеки, основних прав, навколишнього середовища, демократії та верховенства права).

Приклади використання штучного інтелекту з високим ризиком включають критичну інфраструктуру, освіту та професійну підготовку, працевлаштування, основні приватні та державні послуги (наприклад, охорона здоров’я, банки), певні системи правоохоронних органів, управління міграцією та кордонами, правосуддя та демократичні процеси (наприклад, вплив на вибори).

Такі системи повинні оцінювати та зменшувати ризики, вести журнали використання, бути прозорими та точними та забезпечувати людський контроль.

Громадяни матимуть право подавати скарги на системи штучного інтелекту та отримувати пояснення щодо рішень, заснованих на системах високого ризику штучного інтелекту, які впливають на їхні права.

Вимоги до прозорості

Системи штучного інтелекту загального призначення (GPAI) і моделі GPAI, на яких вони базуються, мають відповідати певним вимогам щодо прозорості, включаючи дотримання законодавства ЄС про авторське право та публікацію детальних резюме вмісту, який використовується для навчання.

Більш потужні моделі GPAI, які можуть створювати системні ризики, стикаються з додатковими вимогами, включаючи виконання оцінки моделі, оцінку та пом’якшення системних ризиків, а також звітування про інциденти.

Крім того, штучні або підроблені зображення, аудіо- чи відеовміст («дипфейки») повинні бути чітко позначені як такі.

Заходи підтримки інновацій та МСП

Регуляторні пісочниці та тестування в реальному світі необхідно буде створити на національному рівні та зробити доступними для малих і середніх підприємств і стартапів для розробки та навчання інноваційного штучного інтелекту перед його розміщенням на ринку.

Цитати

Під час пленарних дебатів у вівторок співдоповідач Комітету внутрішнього ринку Брандо Беніфеї (S&D, Італія) сказав: «Ми нарешті маємо перший у світі обов’язковий закон про штучний інтелект, щоб зменшити ризики, створити можливості, боротися з дискримінацією та забезпечити прозорість. Завдяки парламенту неприйнятні практики ШІ будуть заборонені в Європі, а права працівників і громадян будуть захищені. Тепер буде створено Офіс штучного інтелекту, який допоможе компаніям почати дотримуватись правил до того, як вони набудуть чинності. Ми переконалися, що люди та європейські цінності знаходяться в самому центрі розвитку ШІ».

Співдоповідач Комітету громадянських свобод Драгош Тудораче (Renew, Румунія) сказав: «ЄС досяг результатів. Ми пов’язали концепцію штучного інтелекту з фундаментальними цінностями, які є основою наших суспільств. Однак попереду ще багато роботи, яка виходить за рамки самого Закону про штучний інтелект. ШІ змусить нас переосмислити суспільний договір, який лежить в основі наших демократій, наші моделі освіти, ринки праці та спосіб ведення війни. Закон про штучний інтелект є відправною точкою для нової моделі управління, побудованої навколо технологій. Зараз ми маємо зосередитися на тому, щоб цей закон був реалізований».

Наступні кроки

Положення все ще підлягає остаточній юридично-лінгвістичній перевірці та, як очікується, буде остаточно прийнято до кінця законодавчого органу (через так звану процедуру виправлення). Закон також має бути офіційно схвалений Радою.

Він набуде чинності через двадцять днів після його публікації в офіційному журналі та буде повністю застосований через 24 місяці після набуття ним чинності, за винятком: заборони на заборонені практики, які застосовуватимуться через шість місяців після дати набуття чинності; кодекси практики (через дев'ять місяців після набрання чинності); правила штучного інтелекту загального призначення, включаючи управління (12 місяців після набуття чинності); та зобов'язання для систем високого ризику (36 місяців).

Фон

Закон про штучний інтелект прямо відповідає на пропозиції громадян від Конференції про майбутнє Європи (COFE), а саме на пропозицію 12(10) щодо підвищення конкурентоспроможності ЄС у стратегічних секторах, пропозицію 33(5) щодо безпечного та надійного суспільства, включаючи протидію дезінформації та забезпечення повного контролю над людьми, пропозицію 35 щодо сприяння цифровим інноваціям, (3) водночас забезпечення нагляду з боку людини та (8) надійне та відповідальне використання штучного інтелекту, встановлення запобіжних заходів та забезпечення прозорості та пропозицію 37 (3) щодо використання ШІ та цифрові інструменти для покращення доступу громадян до інформації, включно з людьми з обмеженими можливостями.

Джерело: Офіційний пресреліз Європейського Парламенту