Ложка хейту. Онлайн-насильство щодо журналісток у коментарях YouTube
Ложка хейту
Онлайн-насильство щодо журналісток у коментарях YouTube
“Ахахаха. А жіночка прям тупа курка!” — такі коментарі не дивина під випусками новин на YouTube. Агресія, цькування, сексизм, погрози на адресу журналісток — усе це приклади гендерно зумовленого онлайн-насильства. І хоча YouTube має жорсткі політики з протидії мові ненависті, алгоритми модерації її часто пропускають — видаляють сотні тисяч одиниць контенту, але залишають “тупих курок” під відео українських медіа. Можливо, через недосконалість самих алгоритмів чи проблеми з “розумінням” української мови.
Цифри викликають занепокоєння: 81% українських журналісток, опитаних ГО “Жінки в медіа” у 2024 році, стикався з різними проявами онлайн-насильства. Найчастіше з мізогінією (жінконенависництво) і дифамацією (поширення брехні про людину) заради професійної дискредитації. Та чи правда, що і те, і те залишається поза модерацією україномовного YouTube і, мов ложка дьогтю, регулярно заражає наш інфопростір мовою ненависті? Вирішили перевірити це на даних.
Ми взяли 10 найпопулярніших україномовних новинних YouTube-каналів, додали до них YouTube-канали медіа з білого списку й обрали цьогорічні відео, у яких щонайменше одна жінка виступає в ролі ведучої або інтервʼюерки. Загалом на 15 каналах вийшло 2300 таких відео, під якими ми нарахували 285 тисяч коментарів.
Їх і аналізували.
Всі дописи ми опрацювали за допомогою ШІ — “згодували” їх GPT-4o з проханням позначити ті, де є принаймні один із десяти видів онлайн-насильства, які трапляються в коментарях. А саме:
- сексизм;
- мізогінія;
- погрози смертю або фізичним насильством;
- погрози зґвалтуванням чи іншим сексуальним насильством;
- мова ворожнечі;
- гендерна дезінформація;
- доксинг (публікація чутливої особистої інформації, як-от домашня адреса);
- секторинг / порнопомста (погроза опублікувати інтимні фото, відео тощо);
- гендерно зумовлений тролінг;
- дифамація.
Опис кожного виду онлайн-насильства з характерними прикладами ви можете знайти наприкінці статті. Ми ж усі ці види знайшли в коментарях.
Зауважимо, що деякі з них є проблемою не тільки для жінок-журналісток, а й для чоловіків. Проте ми зосередилися саме на журналістках, які й раніше становили більшість у медіагалузі, а після початку повномасштабного вторгнення ця частка з обʼєктивних причин зросла. На кінець 2023 року 77% журналістів становили жінки.
Джерело даних: списки відтворення 10 найпопулярніших україномовних новинних YouTube-каналів станом на 1 вересня 2024 року та каналів медіа з білого списку від Інституту масової інформації за перше півріччя 2024-го, у яких щонайменше одна жінка виступає в ролі ведучої або інтервʼюерки. В усіх відео з обраних списків відтворення за допомогою YouTube API вивантажили коментарі першого рівня (без відповідей на них та подальших гілок обговорення), залишивши тільки ті, що були довші за три символи.
Канали, які ми аналізували (посортовані за кількістю відео, що потрапили до аналізу, спочатку найбільші): Апостроф TV, Громадське радіо, Espreso.TV, 5 канал, Цензор.НЕТ, BIHUS Info, Телебачення Торонто, Українська правда, Ukrinform, hromadske, Радіо Свобода, Суспільне Новини, Бабель, Український тиждень, Бутусов Плюс.
Досліджуваний період: усі коментарі до відео, які були опубліковані з 1 січня по 1 вересня 2024 року станом на початок вересня (видалені коментарі до аналізу не потрапили).
Аналіз даних: коментарі класифікували за допомогою GPT-4o, використавши промпт, який містив опис кожного з десяти видів онлайн-насильства разом із характерними прикладами українською та російською мовами.
Особливості отриманих результатів: GPT не ідеально виконав поставлене завдання. Ми від самого початку очікували, що він погано розрізнятиме, коли цькування спрямоване проти журналісток, а коли, наприклад, проти запрошених експерток. Проте часом велика мовна модель реагувала на мову ненависті, яка не містила посилання на стать і не мала гендерно зумовленого характеру. Або виокремлювала коментарі, у яких мова ненависті була спрямована не проти журналісток чи гостей ефіру, а, наприклад, проти головних персонажів антикорупційних розслідувань чи російської армії та окупантів.
З випадково відібраних 456 коментарів, промаркованих як такі, що містять різні види онлайн-насильства, 60 (13%) були класифіковані некоректно. А отже, припускаємо, що GPT-4o правильно визначав вид онлайн-насильства у ~87% коментарів.
Окремо просили ШІ промаркувати коментарі, які, найімовірніше, залишили російські акаунти (наприклад, у них використана антиукраїнська риторика, російська самоідентифікація чи символіка або вони містять інші ознаки, які сигналізуватимуть для великої мовної моделі про російське походження коментатора). Проте якість цієї класифікації виявилася вкрай низькою. Схоже, поки що в GPT все погано з розумінням нашого контексту.
9% зі всіх 285 тисяч проаналізованих коментарів містили щонайменше один вид гендерно зумовленого онлайн-насильства.
Відсоток агресивних коментарів під відео різних каналів
Мало це чи багато?
Згідно з політиками YouTube з протидії ненависті та переслідувань їх не мало б там бути зовсім.
Найчастіше коментарі містили ознаки мови ненависті, погрози фізичним насильством та мізогінії.
Види онлайн насильства, що зустрічались в коментарях найчастіше
Мізогінія, або жінконенависництво, — ненависть, зневага, упередженість, огида до жінок.
Дифамація — публічні заяви з метою завдати шкоди репутації журналістки.
Доксинг — публікація (або погроза опублікувати) особистої інформації з метою тиску або залякування.
Секторинг / порнопомста — погроза опублікувати інтимні фото, відео тощо.
Не всі відео отримують однаково багато хейту. Найбільше негативу залишають під матеріалами на тему корупції, мобілізації чи нелегального виїзду за кордон. Серед “рекордсменів” за кількістю агресивних коментарів, наприклад, відео BIHUS Info з аналізом діяльності Остапа Стахіва, відео Телебачення Торонто про культурних діячів, що виїхали за кордон, або репортаж із ТЦК від hromadske.
Проте усереднений рівень цькування мало залежить від “хайпу” та популярності відео. Він рідко коли перевищував 20% усіх коментарів, тримаючись на позначці до 10%. Незалежно від того, чи у вас під матеріалом 100 коментарів, чи 1000.
Кількість агресії не надто залежить від "хайповості" та загальної кількості коментарів під відео
Якщо ж почати читати ті коментарі, то найперше, що вражає, — це кількість мови ненависті та її неприхована прямолінійність. А також відсутність обмежень для цих коментарів з боку платформи.
гортайте вниз ↧
У коментарях до журналістських матеріалів можна натрапити на…
найтиповіші приклади лайки та нецензурної лексики,
слова, що мають сексуалізований характер, чи натяки на фізіологічні або тілесні аспекти,
ознаки дегуманізації, прирівнювання до тварин чи їхніх частин.
Мова ненависті рясніє яскравими прикметниками
та дієсловами, які часто відтворюють погрози смертю та фізичним насильством.
Іншою характерною рисою цькування в онлайні є звернення до частин тіла, часто з використанням принизливих і грубих слів. Все це для того, щоб викликати відповідну реакцію і зробити образи інтимнішими, створюючи в мішені відчуття вразливості й слабкості.
І тут працюють як усталені вирази на кшталт “кров з очей” (“Будь ласка, менше цитат, аж кров з очей та вух пішла від такої кількості руського”), так і більш прицільні та свідомі нападки на зовнішність (“А що це за обвітрені губи мінетчиці”, “Вона з ним спілкується, а в самої соски збудилися” чи емоційно-метафоричне “Тупа носа суе кожному у дупу” (оригінальну орфографію збережено).
Чи варто казати, що найчастіше дістається не лише обличчю чи рукам, а й статевим органам.
Частини тіла, які хейтери найчастіше згадують у коментарях
Ознаки онлайн-насильства часто проявляються у способі звернення до жінок. Використання певних слів чи виразів може бути способом знецінити, принизити або відвернути увагу від важливості теми. Наприклад, сексистські звернення на кшталт “жіночка” чи “дівка” демонструють бажання зменшити роль жінки. Іншим поширеним інструментом є мова ворожнечі, яка використовується для знеособлення та приниження, коли журналісток називають принизливими словами, як-от “журнашлюхи” чи “шльондри”.
Та все ж таки маємо маленьку перемогу: відео українських медіа в 3,5 раза частіше коментували саме українською.
І водночас україномовного хейту було трохи менше, ніж російськомовного. Що можна частково пояснити коментарями росіян, особливо під репортажами з Курської області, які, наприклад, не надто заморочувалися над перекладом, щоб побажати українським журналісткам бути зґвалтованими російською армією (і так, ці коментарі YouTube також залишив без модерації).
Офлайн-наслідки онлайн-насильства
Гендерно зумовлене онлайн-насильство проти журналісток не є суто локальним українським явищем. За результатами глобального дослідження насильства в інтернеті проти жінок-журналісток, проведеного ЮНЕСКО в 15 країнах світу наприкінці 2022 року, 73% респонденток відповіли, що стикалися з онлайн-насильством під час своєї роботи. Онлайн-атаки вплинули на професійну репутацію чи роботу кожної десятої медійниці. Кожна п’ята сказала, що зазнала нападу чи жорстокого поводження офлайн у зв’язку із систематичним переслідуванням в інтернеті.
В Україні ситуація схожа: серед опитаних ГО “Жінки в медіа” медійниць 14% тих, які зазнавали онлайн-насильства, повідомили, що загрози для них із цифрового простору перейшли у фізичний вимір.
А отже, хоч образливі коментарі під відео можуть не видаватись аж такими загрозливими, вони є ще одним кроком до легітимації та “розвіртуалізації” насильства.
Проте є ще один менш очевидний наслідок публічного онлайн-цькування журналісток. Він повʼязаний із так званим охолоджувальним ефектом — ситуацією, коли онлайн-насильство впливає не тільки на самих журналісток, а й на решту жінок. Себто тих, хто спостерігає за ситуацією “ззовні”. Результат — зменшення бажання в жінок здобувати журналістську освіту чи розвивати журналістську карʼєру, посилення страху публічності, бажання вдатися до самоцензури, щоб уникнути теми, яка потенційно може здійняти хвилю ненависті.
А отже, агресивні коментатори прагнуть не тільки дискредитувати журналістські матеріали, принизити, зганьбити й залякати жінок-журналісток, змушуючи їх замовкнути або відійти від публічної діяльності. Вони намагаються професійно дискредитувати саму журналістську професію, підірвати довіру до фактів, знецінити свободу слова й обмежити активну громадську участь у публічних обговореннях.
Більше про руйнівний вплив онлайн-насильства на медіа можна прочитати в дослідженні Міжнародного центру для журналістів (ICFJ) за підтримки ЮНЕСКО. Настанови з моніторингу онлайн-насильства щодо журналісток від ОБСЄ українською мовою доступні за посиланням.
Модерація = відповідальність YouTube?
Як зазначено в політиках платформи, YouTube робить усе можливе для того, щоб обмежити мову ненависті, дегуманізацію та харасмент на платформі, маючи на увазі не лише відео, а й будь-який контент включно з коментарями.
“Пріоритетом YouTube є гарантування безпеки коментарів для всіх користувачів, зокрема захист самих контентмейкерів”. У цьому платформі допомагають як алгоритми, так і персоналізовані модератори.
Про те, що алгоритми модерації коментарів таки працюють, опосередковано свідчать “зашифровані” коментарі, у яких пропущені окремі літери, використовується латинська абетка або впадає в око надмірна кількість пробілів, навіть всередині слів.
І можна було б частково виправдати алгоритми за невміння зчитувати зрозумілі лише українцям шифри, проте візуалізації вище демонструють, що проблема набагато глибша. Частково вона повʼязана з мовою: YouTube, так само як і більшість західноцентричних платформ, найкраще “розуміє” англійську. А у випадку з менш популярними мовами, як ми знаємо, може навіть рекомендувати до перегляду відео, що порушують політики платформи. Наприклад, у яких рекомендують лікувати онкозахворювання за допомогою соди.
Втім, є й інший бік медалі: українці як ніхто знають, як часто алгоритми модерації працюють проти наших спроб розповісти світові про війну. Так само і в нашому дослідженні GPT іноді помилявся, наприклад, коли маркував як гендерне онлайн-насильство коментарі з критикою через сексистські висловлювання, фрази з нагадуванням про масові випадки сексуального насильства в окупації чи сарказм.
Нерозуміння контексту в умовах повномасштабної війни спричиняє великий розрив між тим, що здається нам очевидним, і тим, що “очевидно неприпустиме” з погляду “мирних” західноцентричних алгоритмів. І якщо вже на те пішло, для репутації платформи набагато безпечніше пропустити мову ненависті, ніж випадково забанити цілком нейтральні коментарі.
А отже, зважаючи на такі неідеальні алгоритми, налаштування YouTube сьогодні дають змогу трохи поліпшити ситуацію власноруч. Наприклад, повністю закривши коментарі до відео або через механізм скарг на образливий контент, які, до речі, можуть не тільки протидіяти конкретним інфоатакам, а й допомагати “донавчати” алгоритми модерації на прикладах з українського інфопростору.
Крім того, для власників каналів і медіа є ще один спосіб обмежити можливість залишати мовоненавистницькі коментарі під їхніми відео — налаштування власного чорного списку заборонених у коментарях слів.
На своєму каналі ви можете визначити слова, коментарі з якими перед публікацією проходитимуть верифікацію від адміна каналу (або ж не будуть опубліковані ніколи). Наприклад, включивши до списку окремі слова з нашої візуалізації прикладів мови ненависті в коментарях.
І, схоже, поки що єдиний спосіб прибрати цю ложку хейту залишається тільки в наших руках.
Що таке онлайн-насильство і який вигляд воно може мати в коментарях?
Онлайн-насильство проявляється в різних формах і видах, які рідко існують ізольовано або в чистому вигляді. Часто вони переплітаються або поєднуються в одному коментарі чи повідомленні. Попри це, їх виокремлення має ключове значення для класифікації та глибшого розуміння загроз, які становить кожна форма насильства.
У межах цього дослідження ми просили GPT-4o позначити коментарі, які містили щонайменше один із десяти видів онлайн-насильства. У спойлері до кожного виду можна побачити найтиповіші приклади його використання (оригінальну лексику і пунктуацію збережено, проте з метою захисту журналісток назви редакцій та імена ми замінили на *****).
Матеріал підготовлений Texty.org.ua і ГО “Жінки в медіа” у межах проєкту в партнерстві з ЮНЕСКО та за підтримки Японії. Авторки несуть відповідальність за вибір і подання фактів, наведених у цьому матеріалі. Висловлені погляди належать виключно авторкам і не обов’язково відображають позицію ЮНЕСКО чи Японії.
