Професорка Нью-Йоркського університету впевнена, що використання інструментів штучного інтелекту для вирішення соціальних проблем без урахування раси, статі та здібностей може нанести величезну шкоду.

Про це розповідає Technology Review.

На думку Мередіт Бруссард, дослідниці даних і ад’юнкт-професорки Нью-Йоркського університету, застосування штучного інтелекту до глибоко вкорінених соціальних проблем уже зараз дає катастрофічні результати. У своїй книзі «Більше, ніж збій» («More than a Glitch») Бруссард стверджує, що ми постійно надто прагнемо застосовувати штучний інтелект до соціальних проблем неналежним і навіть шкідливим способом. Її головне твердження полягає в тому, що використання технічних засобів для вирішення соціальних проблем без урахування раси, статі та здібностей може завдати величезної шкоди.

Одним із шляхів вирішення цієї ситуації може стати алгоритмічний аудит —процес перегляду алгоритму та перевірки його на предмет упередженості. Сьогодні сучасні вчені володіють математичними методами для оцінки справедливості. Можливо, саме такий аудит й застосування таких методів допоможе нам зробити алгоритми справедливішими.

Сучасний активний розвиток штучного інтелекту та масове його використання показало, наскільки сильно AI-інструменти містять умовну «чорну скриньку». Якщо алгоритми та штучний інтелект будуть приймати соціальні рішення за допомогою алгоритмів, алгоритмічний аудит буде просто необхідний.

Не є секретом те, що системи машинного навчання є дискримінаційними. Саме тому перед активним використанням штучного інтелекту потрібно, на думку експертки, провести оцінку системи на упередженість на основі статі, здібностей, раси. Без такої оцінки використання штучного інтелекту для повсякденних утилітарних задач несе більше загроз, аніж переваг.

«Іноді ми закохуємося в ідею статистичних прогнозів майбутнього, тому я цілком розумію бажання створювати машини, які роблять майбутнє менш неоднозначним. Але ми маємо жити з невідомим і залишати простір для того, щоб змінитися як люди», - підсумовує експертка.

Раніше «Інтернет свобода» розповідала, що експерти консалтингової компанії Eurasia Group назвали штучний інтелект загрозою для демократії.