Ілон Маск VS Джордж Орвелл: технології для людини чи проти неї
1 серпня 2020
1.08.2020

Технологічний розвиток поступово торкається усіх сфер нашого життя: ми купуємо, спілкуємося, працюємо і вчимося онлайн, а кавоварка знає ідеальну густину пінки на нашому латте. Усе це значно спрощує наш побут. Але така прив’язка до прогресу ставить питання про захищеність даних і те, хто може ними розпоряджатися і з якою метою. Ручна та прекрасна утопія Маска з екскурсіями на Марс чи тотальний контроль особистості та антиутопія Орвелла — хто перемагає?

Інтернет Свобода публікує підсумки онлайн-дискусії в межах Friday Security Nights від Digital Security School 380.

Технологічна утопія чи колапс

На думку Андрія Бродецького, керівника редакції ЛІГА.Tech, технології створюють багато можливостей, проте ці можливості дуже різні. Для звичайних користувачів це радше утопія, у якій вони можуть легко купити смартфон і значно спростити своє життя. Для бізнесів — це можливість заробити гроші, як це роблять монополісти Apple та Google. Для держави — це часто контроль за своїми громадянами, цензура і вплив на суспільну думку.

“Технології не прибирають нерівність, вони дозволяють концентрувати владу як політикам, так і бізнесам. High tech, low life — я думаю, що це саме те, що ми бачимо ледь не щодня”, — вважає Андрій Бродецький.

Павло Бєлоусов, експерт Школи цифрової безпеки DSS380, налаштований не настільки скептично. Проте він наголошує, що для позитивного сценарію дуже важлива обізнаність у сфері технологій, зокрема на рівні звичайного користувача.

“Питання не в площині, чи технології захоплюють людей, а в тому, чи зможуть люди масово розібратися у цьому”, — погоджується з Бєлоусовим Дарина Даниленко, керівниця з комунікацій в Opendatabot.

Технології для людини: як працюють боти

Коли йдеться про ботів, багато хто згадує про сервіси за допомогою яких, наприклад, можна шукати та купувати квитки в Укрзалізниці. У цьому випадку йдеться саме про спеціалізовані чат-боти, а не ботоферми до виборів. Втім, це досить нова технологія, і не всі до кінця розуміють її переваги та специфіку роботи.

“Боти — це не якась окрема сутність, а такий же канал комунікації, як сайт, білборд чи смс-ка”, — пояснює Дарина Даниленко.

зображення Shutterstock

Їх особливість у тому, що вони вони мають свій інтерфейс і по-іншому взаємодіють із користувачем. Якщо людина просто заходить на сайт, про неї можна взнати максимум її стать, вік чи ІP-адресу. Натомість бот знайомиться з користувачем особисто, і залежно від того, що він вміє і які знає сценарії, може зібрати дуже багато і досить специфічної інформації. Це персоналізоване спілкування, яке відбувається за свідомої згоди людини.

Дарина поділяє боти на 2 основні види: сервісні та медійні. Сервісні дозволяють виконувати певні функції. Наприклад, Railway bot. Цей бот створений бізнес-сектором, а не “Укрзалізницею” і є прикладом того, як бізнес пропонує деякі функції державних установ у сфері. Сервісні боти класні, але вони можуть мати обмежену комунікацію.

Медійні боти, натомість, не надають сервісів, тільки необхідну інформацію. Як-от один з проєктів Дарини, чат-бот сімейної лікарки. Такий сервіс не вирішує усіх проблем, але дуже допомагає у комунікації реальній лікарці. Наприклад, коли є повторювані запитання. Якщо людина, відповідаючи на питання бота, йде за конкретною послідовністю, бот запрошує таку людину на прийом до лікарки. В іншому випадку — дає готову відповідь.

Вікіпедія як поле битви

Віталій Мороз, керівник програм нових медіа ГО Інтерньюз-Україна, відмітив, що Вікіпедія мала б бути таким собі ідеальним світом, де люди збираються разом, вкладають свій час та займаються просвітою. Натомість, через рівний доступ для всіх, вікіпедійні статті часто стають справжнім полем битви різних думок і наративів. Це може працювати як на користь, так і проти інтересів громадян.

Назар Токар, адміністратор української Вікіпедії і засновник Tokar.ua вважає, що втручання в контент, наприклад, проросійських дописувачів навряд можна називати спецоперацією. Адже це звичайні люди, які сидять в офісах і редагують тексти на замовлення за гроші. А, як відомо, сама Вікіпедія — це «те, що відбувається у людей в головах».

Технології проти людини

“Нас і справді можна вважати заручниками технологій, особливо великих компаній”, — каже Назар Токар.

Такі компанії — найперше бізнеси, і їх алгоритми великою мірою залежать від відгуків користувачів. Вони не зацікавлені у втраті аудиторії та прибутку, а тому зроблять усе, щоб такого не сталося. Наприклад, сервіси Apple для російських облікових записів відображали Крим як частину території Росії. І для такого техгіганта це лише питання бізнес-інтересу.

Ризиків у сфері технологій може бути багато на різних рівнях, — відмічає Андрій Бродецький. За його словами, сучасні технології дуже складні всередині, навіть найпростіші програми. Ці складні технічні системи мають простий інтерфейс. І є проблема: те, що інструмент насправді складний люди не розуміють через простоту його інтерфейсу. Або недооцінюють потребу правильно ним користуватися, як-от вчасне оновлення системи. Через таке невчасне оновлення, наприклад, дуже багато користувачів постраждали від вірусної атаки Petya.

дані ESET: країни, які найбільше постраждали від Petya

Іще один ризик — кіберзлочинність. По суті, мета таких зловмисників — заробіток. Зокорема, через розвідку конкурентів. Вища ліга — кіберзлочини, які робляться у співпраці із державними органами. Таким був той самий Petya, шкоду від якого оцінюють в 10 млрд доларів.

Павло Бєлоусов звертає увагу, що у питаннях цифрової безпеки, на відміну від інших сфер, ми не можемо покладатися на досвід. Його просто недостатньо: сучасні цифрові технології нас оточують лише 20-30 років. Люди не знають, що робити, наприклад, якщо їх зламали, а запитати про це у старших також не вийде.

Користувачі можуть або повірити, що двофакторна аутентифікація потрібна, або на власному досвіді втратити персональні дані і тоді цим зайнятися. Тому для безпеки в мережі має бути поєднання просвітницького контенту і довіри з боку користувачів.

“Уникнути питання цифрової безпеки зараз неможливо: або ти займаєшся нею, або вона тобою”, — каже Павло Бєлоусов.

Якщо є можливість надати мінімум даних — варто давати мінімум. Якщо цього не уникнути, їх варто надавати тільки якщо довіряєш компанії. Користуватися сервісами можна, якщо добре розумієш, як вони працюють, радить Павло.

“Ми уже частково знаходимося в антиутопії: Facebook i Google мають більше інформації, ніж сама людина знає про себе. І ми добровільно її віддаємо: постимо фото, користуємося електронною поштою ітд”, — звертає увагу на ситуацію з даними Назар Токар. І тут йдеться не лише про порушення конфіденційності, але й про втручання в особистий простір, як-от постійний моніторинг геолокації.

фото Unsplash

Чи можемо ми зберегти свободу

Щоб убезпечити себе, Андрій радить користуватися тільки тими ресурсами, мету та інтереси яких розуміє користувач. Адже за будь-яким продуктом та алгоритмом завжди стоїть людина.

“Facebook не може безкоштовно нас розважати, це бізнес. Якщо ми будемо розуміти його механізми, нам буде простіше ухвалювати рішення, запобігати викликам і почуватися у безпеці”, — погоджується Назар.

З боку держави важливим кроком у захисті своїх громадян могло б стати запровадження принципів Загального регламенту про захист даних (з англ. GDPR) — регламенту, який регулює цю сферу в країнах ЄС. На думку Дарини, Україні ще належить багато зробити у напрямку реального втілення цих принципів. Більшість українських компаній через роботу із ринком ЄС опосередковано уже роблять це на практиці. Андрій каже, що Мінцифри говорить про таку стратегію, хоча не береться прогнозувати як швидко її імплементують. Крім того, ті дані, які уже були злиті, на жаль, залишаться оприлюдненими, навіть якщо будуть великі зрушення у майбутньому.

Одним із способів покращити ситуацію в Україні експерти називають правильну комунікацію. Мало просто провести інтернет — потрібно навчити людей ним користуватися і пояснити його можливості. Більшість не розуміє, що штучний інтелект та алгоритми — не абстракція. Це те як ми платимо за комуналку чи пости на Facebook.