Безпечний ШІ: як ЄС регулюватиме використання штучного інтелекту
23 квітня 2021
23.04.2021

21 квітня Єврокомісія оприлюднила пропозиції щодо регуляторних правил, які мають створити умови для безпечного та етичного використання штучного інтелекту в інтересах громадян Євросоюзу.

Про це повідомляється на сайті Європейської комісії.

«Сьогоднішні пропозиції спрямовані на зміцнення позицій Європи як глобального центру досконалості в галузі штучного інтелекту від лабораторії до ринку, забезпечення того, щоб штучний інтелект в Європі поважав наші цінності та правила, а також використання потенціалу штучного інтелекту у промисловій сфері», — Тьєррі Бретон, європейський комісар з питань внутрішнього ринку та послуг.

Запропоновані правила передбачають критерії з оцінки ризиків використання технологій штучного інтелекту:

  1. ШІ «неприйнятного ризику» — системи штучного інтелекту, що спричиняють загрозу для безпеки, способу життя або для прав людей. Наприклад, програми та застосунки, що маніпулюють поведінкою людей, або технології, що дозволяють владі сегментацію суспільства за ознакою вироблених системами штучного інтелекту «соціальних рейтингів». Використання таких технологій буде заборонено.

  2. ШІ «високого ризику» — системи штучного інтелекту, що застосовуються у сферах громадського транспорту та в інших об’єктах критичної інфраструктури, у сфері освіти та професійної підготовки, у сфері безпеки та працевлаштування, громадського порядку, міграції й притулку, правосуддя та інших, які прямо зачіпають безпеку особи або права людини, у тому числі на отримання адекватних соціальних послуг, якісної освіти або забезпечення права на гідну працю.

До «ризикованих» технологій зараховують системи візуального розпізнавання особи, які передбачають її біометричну ідентифікацію. Їх використання у публічних місцях, у тому числі, в інтересах правоохоронних органів, забороняється європейським законодавством і застосовується лише за деяких винятків, наприклад, для пошуку загублених дітей, для запобігання терористичній діяльності або для визначення місцезнаходження особливо небезпечних злочинців, — кожен з таких винятків потребуватиме дозволу від судової влади або від інших уповноважених органів.

Для систем ШІ «високого ризику» накладатимуть суворі зобов'язання перед запуском на ринок:

  • висока якість наборів даних, що живлять систему, щоб мінімізувати ризики та дискримінаційні результати;
  • протоколювання діяльності для забезпечення простежуваності результатів;
  • детальна документація, що містить всю інформацію, необхідну для системи та її призначення для органів влади для оцінки її відповідності;
  • чітка та зрозуміла інформація для користувача;
  • відповідні заходи людського нагляду для мінімізації ризику;
  • високий рівень надійності, безпеки та точності.
  1. ШІ «обмеженого» або «мінімального» ризику — системи штучного інтелекту з конкретними зобов’язаннями щодо прозорості. До них зараховують чат-боти, відеоігри, фільтри комп’ютерного спаму тощо. Законодавча пропозиція дозволяє безкоштовно використовувати такі програми. Проєкт Положення тут не втручається, оскільки такі системи ШІ представляють лише мінімальний або зовсім не становлять ризиків для прав чи безпеки громадян. Проте користувачі повинні бути повідомленні, що взаємодіють з машиною для прийняття самостійного рішення щодо продовження роботи з програмою.

«Встановлюючи такі стандарти, ми можемо прокласти шлях для етичного використання таких технологій в усьому світі та забезпечити конкурентоспроможність ЄС у цій сфері. Спрямовані у майбутнє та сприятливі для інновацій, наші правила застосовуються там, де вони є прямо необхідними: коли мова йде про безпеку та фундаментальні права наших громадян», — зазначила віцепрезидент Єврокомісії з цифрового розвитку Маргрете Вестайгер.

Європейський Парламент має розглянути та ухвалити наведені пропозиції, а також їх мають підтримати країни-члени ЄС. Після такого ухвалення нові стандарти застосовуватимуться на всій території Європейського Союзу.

Єврокомісія пропонує національним компетентним органам нагляду за ринком слідкувати за дотриманням нових правил, а створення Європейської ради з питань штучного інтелекту сприятиме розробці нових стандартів та їхньому впровадженню.

Як повідомлялося раніше, Рада Європейського Союзу затвердила висновки щодо стратегії, яка має на меті захист компаній та громадян від новітніх кіберзагроз. Зокрема, план передбачає створення мережі безпекових центрів на всій території блоку, визначення спільного центру з кібербезпеки та продовження впровадження технології зв’язку 5G.