Цифровий Вавілон
8 березня 2023
8.03.2023

Автор: Ігор Розкладай, заступник директора ЦЕДЕМ

Що таке соцмережа? Перша асоціація — це місце у віртуальному просторі, де ми з вами проводимо, як правило, багато чи навіть дуже багато часу, шаримо пости з новинами, текстами, фоточками і звісно займаємося національним видом спорту — інтернет-срачами з будь-якої бодай хоч трохи конфлітної теми.

Але соцмережа з точки зору бізнесу — це ІТ продукт, що дозволяє агрегувати значні масиви людей і даних про них та продати їх рекламодавцям, які в свою чергу зацікавлені продати тим самим людям, при чому з великою точністю, товар чи послугу. Чим більше ми про себе поширюємо, тим більше ми себе “продаємо”. З точки зору людини — це зв’язки, з рідними, колегами, друзями і тим чортом, з яким наче десь недоперепив в сусідньому барі. З точки зору медіа — це можливість донести свій інформаційний продукт до свого чита-глядача. Для громадської організації — можливість підвищити обізнаність про ту чи іншу проблему, чи то про необхідність пристібатися на задньому сидінні чи про загрозу бабакам на територіях, що намагаються захопити російська орда. З точки зору росії — це поле для проширення дези, маніпуляцій і пропаганди так званого руского міра і т.д. За соцмережею стоїть компанія, її засновники і акціонери. І як будь-який нормальний бізнес компанія прагне прибутку, який має розподілити між акціонерами і інвестувати в нові продукти, що дадуть прибуток знову і т.д. А відтак, це спонукає створювати максимально сприятливі умови для бізнесу. Проте проблема в сприятливих умовах, що вони забезпечують прибуток тут і зараз, але в довгостроковій перспективі нечутливість і неправильне прогнозування наслідків може мати фатальні результати.

Соціальна мережа — це інструмент. Як будь-який інструмент він може піти во благо, як от поєднати родину розділену війною і кордонами або далеких родичів, що знайшлися на різних контитентах, так і на шкоду, поширюючи дезінформацію, граючи на страхах і пересудах людей, як от в часи ковід-пандемії щодо всесвітньої змови ілюмінатів чи сіючи паніку або ж ура-патріотизм в умовах широкомасштабного вторгення.

Як і щодо будь-якого інструменту мають існувати правила, що ним точно НЕ можна робити, а що треба робити дотримуючись певних заходів безпеки. При цьому, якщо в першому випадку — це абсолютна заборона: ну не можна кидати в бабусю топор, навіть, якщо вона розповідає, що росіяни — хороші, то в другому — спосіб, як тим же самим топором ви колете дрова залежить від вашої статури, м’язів, майстерності, з якого дерева ті дрова. При чому когось може дуже дратувати звук рубання дров і їм взагалі не варто бути присутнім при цьому дійстві.

Сам феномен соцмереж є достатньо давнім. Одними з перших стали соцмережі направлені на пошук втрачених контактів з однокласниками накшталт легендарного classmates.com і до його численних послідовників накшталт польської вже неіснуючої naszaklasa.pl, російських однокласніков та ін. На наших теренах після популярних чатів, як місця де тусила молодь накшталт Gala.net, Bizzarre.net, а першою соцмережею, що здобув широку популярність став Живий журнал (livejournal.com). Але його проблемою було те, що будь-який аудіовізуальний контент треба було вставляти з посиланням на зовнішні ресурси або робити це на самій платформі, але за окрему оплату. Пізніше користувачі почали освоювати ще тоді молодий фейсбук і його російський клон - вконтактє. А масова міграція відбулась після численних спам атак та й через викуп ЖЖ російською СУП. Зручність нових платформ в контексті завантаження і поширення фото та відеоконтенту перемогла.

На час міграції 2007-09 рр. стандарти спільнот були досить м’якими — так правила ФБ влазили всього в 1 сторіночку, що не порівняти з сучасним трактатом, який навряд чи хто бодай прочитав. Але з 2014 року користувачі українського сегменту соціальних мереж почали стикатися з проявами блокування, перш за все за slur — тобто певні слова, що містять мову ворожнечі, себто є принизливими. Так, під заборону потрапили слова “кацап”, “хохол”, “москаль”, а разом з ними і Генадій Москаль. Власне останній теж ще 2015 року потрапив під трьоденний бан за нецензурні висловлювання на адресу проросійських озброєнців на Донечині і Луганщині.

Після блокування російських соцмереж у 2017 році, відбулася друга масова міграція користувачів, які з Вконтакта та Однокласніков заполонили Фейсбук, Інстраграм, а пізніше і Тікток. Десь в цей самий час можна було спостерігати наростання роботи численних ботоферм, що використовувалися, наприклад, щоб атакувати щойнонароджене Суспільне мовлення чи поширювати вкиди щодо публічної сфери, політиків та діячів різного гатунку. На ряду з обмеженнями та ботофермами виникла ще одна проблема, яку вдалося здебільшого вирішити лише у 2023 році — підрозділ Азов було внесено в список небажаних організацій і осіб. Через це не одне медіа і навіть такі державні інституції як Інститут національної пам’яті потрапляли в обмеження видачі контенту на місяці.

Але найгірша ситуація почалася з початком повномасштабного вторгнення в Україну. Поява першої інформації про звірства росіян в передмісті Києва, а надто після звільнення Бучі, окупації Харківщини і Херсонщини, знищення Маріуполя, загибель сотень і тисячів українців, які виборюють наше право на існування спричинила природню реакцію українців на дії окупантів, де слово “русня”, “кацапи”, “орки”, є не просто епітатами, а проявом гніву, презирства і ненависті до тих, хто прийшов красти, катувати, ґвалтувати і вбивати.

Проте, попри все сприяння і відступи, що намагаються робити компанії, глобально соціальні мережі виявилися не готовими до війни. По-перше через саме позиціювання мереж як інтернет -посередників, так і через відсутність чи застарілість міжнародних правил. Що говорити, якщо Женевська конвенція #3 що регулює правила поводження з військовополоненими писалася в доінтернетні часи, а уявити, що країна буде заперечувати, що її солдати є в полоні, певно не вклалося б в у світогляд її розробників.

Відтак, коли з'явилися свідчення російських злочинів, соцмережі почали блокувати фотографії з Бучі-Ірпіня-Бородянки та відповідні теги. Щоправда, кризовий центр Мети досить оперативно відреагував на такі блокування і більшість вдалося повернути протягом доби, хоча і потребувало перенавчання алгоритмів на ходу. Кількість же віртуальних "прильотів' користувачам українського сегменту ФБ за слово “русня” порахувати неможливо.

Окремою загрозливою практикою уже кілька років є блокування користувачів за старі пости особливо періоду 2014-15 рр. Таргетований профіль, приміром волонтера чи популярного блогера, аналізується суб’єктами, які хочуть (при)зупинити його діяльність, на предмет наявних порушень (і так, з формальної точки зору вони є), а далі подається скарга і це призводить до серії банів, від видалення постів і блокування на кілька днів до, в кінці-кінців, вимкненням профілю. В результаті, збори на волонтерку падають і потрібно все відновлювати з нуля. І це якщо система не побачить новостворений профіль, бо створення нового профілю після блокування можливе лише з дозволу компанії.

А якщо мова йде про бойовий підрозділ чи його бійців, які передають важливо інформацію і просять допомоги — шкода ще більш очевидна. І звісно, найбільш поширеною проблемою, що доводить що штучний інтелект, ще далеко не інтелект це помилка, що зветься false positive чи хибно позитивна помилка. Якщо описати простою мовою — коли алгоритму щось “здалося” і він блокує зображення хліба, бо десь побачив символіку неонацистських рухів.

І хоча були певні спроби адаптуватися, принаймні з боку Мети, але в результаті публічного тиску уже в самих США використання епітетів на адресу росіян так і залишається під забороною.

Що не так з політиками соцмереж?

Засаднича проблема соціальних мереж — це спроба бути аполітичним місцем в політичному світі, адже політика є невід’ємним елементом суспільного життя будь-якої країни і репрезентує боротьбу бачень, ідей, світоглядів. А в транснаціональному масштабі — боротьба демократій і автократій, культур, незалікованих ран минулого, проблеми сучасного світу з пандеміями і стихійними лихами, міграціями, боротьбою за рівність і бозна ще за що. Ця проблема перш ща все випливає з того, що це приватні компанії, які абсолютно природно намагаються зняти з себе будь-які зайві клопоти. Бо це - ресурси, кошти, люди. А ми знаємо, що бізнес завжди прагне до оптимізації. Водночас, на міжнародному рівні спеціальних регуляцій, крім відносно м'яких DSA&DMA і майбутнього MFA немає.

В цій ситуації звісно, можна сказати, що це приватний простір, де діє правило “my domain — my rules”, мовляв — не подобається, не використовуй. Утім, це не крамниця і не супермаркет, коли можна легко обрати інший поруч. Соцмережі стали домінантами, де виключення з певної платформи може означати маленьку “цифрову смерть” людини, медіа чи онлайн-крамнички, а перебування в місячному бані уже називаються “цифровою в’язницею”.

Засади, на яких базуються стандарти спільноти Мети — це 4 стовпи: достовірність, безпека, конфіденційність й гідність. Зокрема платформа наголошує, що намагається “зробити Facebook безпечним місцем”. “Контенту, який несе загрозу людям, може залякувати, витісняти або придушувати інших, не місце у Facebook”. “Ми очікуємо, що користувачі поважатимуть гідність інших осіб, не переслідуватимуть і не принижуватимуть їх”.

YouTube також наголошує на тому, що “ми віримо, що широкий спектр точок зору зрештою робить нас сильнішим і більш поінформованим суспільством, навіть якщо ми не погоджуємося з деякими з цих поглядів. Ось чому ми маємо політику, щоб допомогти створити безпечнішу спільноту”.

Спроба створити безпечне місце для того, щоб кожен на планеті мав право голосу і не відчував дискримінації є ідеальним наміром чи навіть мрією, як спроба збудувати вежу до небес. Але ця спроба вже розбилася об жорстку реальність і має почасти досить зворотній ефект. Бодай тому, що невирішені проблеми фізичного світу навряд чи можна вирішити створивши уявний всесвіт рожевих поні, котиків і часто тупуватих reels. Сам факт існування тоталітарної Північної Кореї та росії, Китайсько-Тайванський вузол, невирішене столітнє питання Ізраїлю і Палестини, війна в Сирії, конфлікти і війни на Африканському континенті — ці конфлікти є не лише між країнами, але як наслідок чи причина — між живими людьми. І коли кожен отримує можливість говорити онлайн — протилежні точки зору неймовірно швидко і завзято вступають в словесну боротьбу, що може кочувати з профілю у профіль, розростатися у полотнища коментарів, а в певних випадках спричиняти травлю і булінг людей, які обстоюють свою позицію. Хоча, такі атаки можуть бути і виправданими, коли внаслідок безглуздого рішення компанії Адидас випустити футболку з гербом СРСР остання отримала справжній міжнародний протест від громадян кількох країн, кому довелося жити у тюрмі народів. Футболку в результаті зняли з виробництва. Щоправда, в рамках цього протесту дісталося і автору цього текста - за коллаж, де замість герба СРСР поставив свастику отримав “прильот” за порушення стандартів спільноти щодо забороненої символіки.

Практика показує, що алгоритми соцмереж досиль слабко розуміють локальний контекст, сатиру та навіть історичні факти чи аналогії. Ми не маємо справу зі штучним інтелектом (і може і добре, не хочеться жити в часи ТЕрмінатора-3), а лише з певними моделями, шаблонами, за якими система виловлює порушення чи пак “порушення”. Так, найбільше за що користувачі отримують видалення контенту і санкції — це помилкові рішення або ж false positive. Це ті самі кейси, де ... де просто немає логіки, принаймні видимої нам. Але, при цьому людина отримує реальну санкцію, яка вже може призвести до бану на 1-3-7-30 днів і зрештою до вилучення аккаунту. Можливість ефективно оскаржити донедавна було фактично неможливо — лише днями Мета оголосила про вдосконалення системи санкцій за незначні порушення.

Але давайте повернемося до політик. Очевидно, що політики щодо шахрайства та обману, самогубства, сексуальних домагань, сексуальні дії з дітьми — такі політики є універсальними в усі часи і ми не будемо їх аналізувати, бо вони є очевидними і без жодних “але”. Проте, є низка політик, розроблених для мирного часу, що абсолютно не працюють в часи війни, фактично змушуючи жертву до самоцензури.

Так, правила ФБ забороняють погрози, що можуть призвести до смерті заяви про намір учинити насильство високого ступеня тяжкості, зокрема політичне вбивство, заяви про намір або схвалення, заклики до дії, мотиваційні чи умовні заяви, пов’язані із захопленням у полон або викраденням людини та ін. Якщо перекласти це на практику, то заяви щодо “давайте скинемося на кілера для Путіна”, чи “треба захопити парочку вагнеровців, щоб поповнити обмінний фонд” за формальними ознаками підпаде під порушення. Аналогічно підпало би під обмеження і заклики протидіяти “правоохоронцям”, які розстрілювати майданівців у 2014 році, адже на ФБ заборонено публікувати “Погрози насильством на адресу співробітників правоохоронних органів”.

Друге правило, в якому тривалий час перебував Азов це правило щодо небезпечних осіб й організації. В цьому правилі Мета передбачає можливість обговорення певних питань щодо діяльності організацій, проте користувач має чітко зазначити наміри під час створення та поширення такого контенту. “Якщо намір користувача є неоднозначним або незрозумілим, ми за умовчанням видаляємо контент.” — йдеться у правилі.

Основна проблема такого правила в тому, що воно дуже нагадує вимогу на росії маркувати контент іноагентами. Що можна було спостерігати на умовному твітері телеканалу Дождь, де кожна новина на початку мала ідіотичний абзац про те, що цей контент створено іноагентом. Більшість користувачів не знатимуть про існування такої вимоги, а навіть якщо і знатимуть важко уявити пост з картикатурою на Гітлера і Путіна і пояснювальним абзацем на сторінку, чому це не пропаганда нацизму. Бо це і так зрозуміло суспільству, яке потерпає від російського фашизму. Відтак, складається ситуація, коли платформа вимагає правило, яке апріорі ніхто не буде дотримуватись.

Ще одне правило забороняє цілеспрямовано переслідувати публічних осіб за допомогою, зокрема побажання смерті або хвороби, контенту, що вихваляє, звеличує чи висміює їхню смерть, нападів через негативні висловлювання про зовнішність.

Загалом таке правило є адекватним, адже публічні люди також наділені захистом, хоч в певних випадках він є обмеженим. Проте, під час війни важко собі уявити нейтральність українця, коли він бачить умовного Герасимова чи інших військових злочинців, які розказують як треба стерти з лиця землі українські міста і не побажати цим фашистам відправитися до пекла.

Якщо проаналізувати бани, які отримують українські користувачі від різних соціальних мереж, то окрім хибнопозитивної найбільше прилітає за мову ворожнечі. І, очевидно, що це слова “москаль”, “кацап”, “русня”, “русак” та інші епітети для армії і почати мешканців країни-404. Правило Мети говорить, що “Ми визначаємо мову ворожнечі як прямий напад на людей (а не концепції чи інститути) на підставі так званих «захищених ознак», як-от расової, етнічної чи національної приналежності, інвалідності, релігійної приналежності, касти, сексуальної орієнтації, статі, гендерної ідентичності або серйозної хвороби.” “Ми визначаємо напади як жорстокі чи принизливі висловлювання, шкідливі стереотипи, заяви про неповноцінність, висловлювання презирства, відрази чи неприйняття, лайливі вирази або заклики до ізоляції чи сегрегації".

Очевидно, що в мирний час будь-ка сегрегація є недопустимою. Проте, важко, якщо не утопічно вимагати від жертв і країни, що зазнає нападу нейтральності щодо крадіїв пральних машинок, унітазів, авторів півнів з навозу і т.д. Звісно, що контекст має значення і заклики, приміром, щодо росправи над усіма людьми, що мають російське походження є неприпустимими ні в мирний ні у військовий час. Проте, весь спектр побажань щодо населення країни яке пасивно чи активно підтримує війну в Україні очевидно є виправданим і природнім.

Будь-яке блокування контенту, який містить формальні порушення по факту є сприяння агресору, адже, не завжди, але як правило користувачі пишуть епітити і прокляття в певному контексті — загибель друга чи рідного, зруйнована пам’ятка, розграбований музей, а ще свідчення про катування, нелюдські ставлення, викрадення, а разом з тим приклади як росіяни бравують і що обіцяють зробити — все це справедливий гнів і емоції, які є наслідком дій у фізичному і віртуальному світі. Видалення такого контенту не лише не створює “безпечний простір”, адже змушує людей вдаватися до самоцензури і приховує власне весь біль і гнів війний, а це по суті є потурання країні-агресорці, яка зацікавлена приховати злочини своїх посіпак.

Що робити?

Питання війн є надзвичайно складним. Кожна конкретна війна має свої історичні причини, пропаганду та статус сторін. А якщо брати громадянські війни — тут все ще більш заплутане. Утім, війни, де є очевидний агресор, який вторгається на територію сусідньої держави мають діяти особливі правила і винятки.

1) Виняток перший — всі жахи війни мають залишатися на платформі. Так, певний тип контенту може видалятися, якщо це надто натуралістичне, накшталт того, що є на каналі “мертва русня”. Адже в цьому випадку це вже не лише свідчення про інвазію, але і певне смакування смерті.

Очевидно, що зображення де є кров, загиблі, поранені можуть прикриватися заставкою-попередженням про те, що контент може бути шокуючим. Також, було б добре, щоб сама система дозволяла наносити блюр на певні елементи зображення, наприклад обличчя постраждалої людини.

2) Виняток другий — принизлива риторика щодо агресора є виправданою, надто, коли населення активно або пасивно підтримує агресію і не чинить спротиву. Адже громадяни країни-агресорки платять податки, виробляють продукцію, яка йде на військові цілі і обрали владу, яка запустила машину війни, а тому несуть солідарну відповідальність за дії. При цьому якщо фраза “щоб вони виздихали” є очевидною емоційною реакцією, то заклили до масових вбивст і тортур очевидно мають залишитися в межах заборони.

3) Виняток третій — заклики щодо військового і політичного керівництва. Так як саме ці люди є відповідальними за війну, їх захист. в т.ч. заклики щодо страти та інших дій спрямованих на їх ліквідацію є виправданими, адже на їх руках тисячі вбитих невинних людей.

4) Виняток четвертий — сатира, у т.ч. з проведенням паралелей щодо нацизму, тоталітаризму, діячів і символіки таких режимів, порівняння з тваринами чи зображення в образі тварин є припустимою і не може блокуватися, адже є формою вираження і несе на меті показати паралелі між засобами, методами, риторикою і пропагандою найбільш жахливих режимів минулого і сучасними тоталітарними режимами.

5) Виняток п’ятий — будь які збори пов’язані з правом на захист, а надто закупівля зброї, медичного обладнання тощо, мають бути легалізовані. Для уникнення шахрайства, платформа може вимагати підтвердження реєстрації як волонтера або документів, що визначають запит конкретного підрозділа тощо.

6) Виняток шостий — видалення або блокування сторінок медіа, волонтерів, офіційних сторінок органів влади, військових підрозділів є неприпустимим, адже створює охолоджуючий ефект, ставить під загрозу людські життя, які потребують допомоги або оперативної інформації про загрози чи плани евакуації. У випадку “перебору” контент може блокуватися з поясненням причини.

Очевидно, що жодна мережа не візьме на себе такі винятки самостійно — атаки хейту звідусіль, це найменше на що вони можуть розраховувати. Саме тому, такі правила з тим чи іншим рівнем деталізації мають розроблятися на міжнародному рівні. З огляду на юрисдикцію більшості платформ — або на федеральному рівні США, або на рівні міжнародних утворень нашкталт ЄС, Ради Європи, ООН. При цьому має існувати ціла екосистема, яка не лише передбачатиме правила для різних типів війн, але і має мати мапу ризиків, де соціальні мережі мають бути напоготові і мати не лише особливі правила, але і план дій на випадок загострення ситуації.

Утім, питання війни лише перший і найбільш очевидний крок в підходах до регуляції соцмереж. Культурна різноманітність світу потребуватиме множинних політик, де правила для Індії не будуть тотожними правилами для ЄС, Іраку чи Нігерії. Заборона комуністичної символіки в Центральній та східній Європі має діяти, водночас в Китаї така символіка буде легальною. Свастика в ЄС недопустима, але допустима в Індії, де є в культурному коді і не має нічого спільного з нацизмом. Зображення їжі з говядини буде нормою в Україні, але не в тій же Індії і т.д. Збудувати ідеалний цифровий вавілон не вийде. Віртуальний світ може бути лише дзеркалом світу реального, де переходячи з одної культурної спільноти в іншу ти маєш дотримуватися правил цієї спільноти.