Штучний інтелект і ТікТок: як відомих журналісток перетворюють на фейки

увімкнути звук ⟶

Ми проаналізували 595 згенерованих ШІ відео, де використовувався образ відомих жінок. Загалом у ТікТоці ці ролики набрали понад 24 млн переглядів. Кількість переглядів і реакцій користувачів соцмережі на деякі з них вражають.

Коротко про розслідування

У 2008 році на телеканалі «1+1» розпочався кар’єрний шлях Соломії Вітвіцької — спершу як кореспондентки ТСН, а згодом як ведучої. Сьогодні Вітвіцька — одне з найвідоміших облич телеканалу «1+1».

Та для нас стало несподіванкою, що образ телеведучої активно використовують у ТікТоці й далеко не завжди з добрими намірами. Ми виявили 100 відео, у яких віртуальна Вітвіцька говорить і діє завдяки алгоритмам штучного інтелекту. У деяких роликах її голос згенеровано, в інших створено повністю фейкові сюжети із синтетичною мімікою, інтонацією та неправдивими повідомленнями.

І це не поодинокі випадки. Українські журналістки дедалі частіше стають «цифровими аватарами» — не з власної волі, а через бажання маніпуляторів використати довіру до них як інструмент впливу. Те, що ще кілька років тому здавалося технологічною цікавинкою, сьогодні перетворюється на форму онлайн-насильства. А штучний інтелект став знаряддям дискредитації та дезінформації.

Ми вирішили розібратися, як у ТікТоці використовують штучний інтелект для створення чи спотворення відео з образами журналістів. Наш фокус — журналістки, які у відсотковому виразі становлять більшість у медіагалузі України.

У процесі аналізу ми натрапили на десятки роликів, де їхній голос, зовнішність або стиль мовлення були штучно змінені чи повністю згенеровані. Ми дослідили, які саме ШІ-технології використовуються, про що ці відео і яку мету ставлять перед собою ті, хто стоїть за ними.

У роликах використовуються різні технології штучного інтелекту — від синтезу голосу і накладання його на реальне зображення до повноцінних дипфейків зі згенерованими і зображенням, і звуком.

Переважна частина контенту в нашій вибірці мала ознаки аудіовтручання. Інакше кажучи, реальні новинні сюжети були озвучені новими голосами, створеними для просування певного меседжу, сюжету чи наративу. Подеколи голос штучно моделювався під відомих українських телеведучих, і це посилювало ефект достовірності.

Такі аудіоманіпуляції часто видають самі себе. Неприродна вимова, неправильні наголоси, дивні паузи і рваний ритм мови — усе це ознаки машинної генерації.

Ми промаркували 328 тікток-відео з аудіоманіпуляціями і ще 267 відео, де штучний інтелект використовувався для створення чи зміни і зображення, і голосу.

Експлуатація образу

Творці ШІ-контенту часто експлуатують образи відомих українських журналісток і телеведучих. Це прорахована стратегія.

По-перше, журналісти асоціюються з довірою. Оскільки довіра до повідомлення залежить від того, хто його транслює, використання їхнього образу має на меті пробити стіну недовіри.

По-друге, впізнавані обличчя збільшують перегляди і поширюваність контенту: користувачі швидше реагують на відомих медійних персон, особливо тих, кого часто бачать по ТБ чи на Ютубі.

По-третє, маніпулятори свідомо обирають жіночі образи. Журналістки часто асоціюються з емпатією, турботою або чесністю — це якості, які збільшують довіру до повідомлення навіть тоді, коли воно створене алгоритмом.

Серед журналісток, чиї образи використовуються найактивніше, Соломія Вітвіцька з «1+1» (17 відеогенерацій і 83 аудіоманіпуляції), Анастасія Даугуле з телеканалу «Інтер» (26 відеогенерацій і 42 аудіоманіпуляції) та Алла Мазур з «1+1» (13 відеогенерацій і 42 аудіоманіпуляції).

Згадані випадки мають усі ознаки технологічно й гендерно зумовленого насильства (Technology-facilitated gender-based violence, TFGBV).

Загалом відео з нашого набору даних набрали понад 24 млн переглядів. Кількість переглядів і реакцій користувачів соцмережі на деякі ролики вражають.

Такий контент впливає на репутацію журналістки, сприйняття її аудиторією. Люди часто плутають реальну людину з її шахрайською копією і починають хейтити за те, що говорить ця копія.

Так, користувачі, які переглянули згадане вище відео з фейковою Мосейчук, писали, що вона зрадниця, ховає своїх дітей і чоловіка від мобілізації.

Такі коментарі можуть бути також частиною цілеспрямованої дискредитаційної кампанії і можуть належати не реальним користувачам.

Варто зазначити, що ті, хто експлуатує образи популярних телеведучих, водночас копіюють і відомі медіабренди. У назвах тікток-акаунтів, через які просувалися фейкові журналісти, часто з’являлися елементи, які викликали асоціації з легітимними новинними джерелами. Наприклад, частка «tsn» фігурувала щонайменше в п’ятнадцяти акаунтах: tsn.news.ua1, tsn_.news11, tsn.news.24.7, tsn1.news тощо. Така імітація мала створити додаткову ілюзію довіри до поширювачів відеоконтенту.

Що просувають фейкові журналістки

Образи журналісток використовують із різною метою — від антиукраїнських і деструктивних наративів до закликів підписатися на канали. Ми виокремили кілька основних груп:

Яскравим свідченням того, наскільки створення цифрових аватарів проникає в наше життя, є відкрита реклама відповідних технологій.

У тікток-акаунті garant_konstitucy дипфейки стали товаром: тут пропонують замовити штучно згенероване привітання або розіграш. За додаткову плату автор готовий навчити клієнтів «робити якісні дипфейки».

Відео на каналі містять попередження, що це дипфейк. Проте залишається питання: чи отримали автори згоду на використання образів популярних телеведучих?

Проте найчастіше автори відео намагаються приховати факт ШІ-генерації.

Найбільше відео в нашому наборі містить заклик підписати петицію чи пройти опитування — 268 (45%).

Наприклад, «популярні телеведучі» розповідають про те, що з’явилася петиція, яка:

• поверне Залужного на посаду головнокомандувача;
• приведе до відставки Зеленського або зробить президентом проросійського політика Євгена Мураєва;
• відправить усіх поліцейських і працівників ТЦК на фронт;
• допоможе конфіскувати майно топпосадовців чи Юлії Тимошенко;
• змусить Мар’яну Безуглу йти воювати на нуль.

На перший погляд, ці повідомлення можуть здаватися випадковими. Проте їх структура чітко повторює звичні тактики російської дезінформації: апеляція до емоцій, розпалювання суперечок і підрив довіри до держави.

Наприклад, питання про можливе повернення Валерія Залужного на посаду головнокомандувача хоч і не має під собою реальних підстав, але провокує суперечки й сильні емоції. Просування Євгена Мураєва очікуване: це фігура, яку російські медіа вже не раз намагалися легітимізувати.

Інша теза — про відправлення всіх поліцейських на фронт — також звучить нереалістично. Проте вона активно транслюється джерелами, що поширюють російські наративи в Україні, й, на жаль, знаходить відгук у частини суспільства.

Ідея конфіскації майна високопосадовців — ще один інструмент для посилення суспільної поляризації, що покликаний відокремити державу від громадян.

У таких роликах автори закликають перейти за посиланням, підтримати ініціативу або долучитися до голосування. На практиці це означає лише одне: користувач переходить на сторонні ресурси, підписується на фейкові акаунти або, що ще гірше, передає свої персональні дані зловмисникам.

Майже кожне четверте знайдене нами відео з ШІ-втручанням експлуатує образи журналісток зі схожою метою — отримати дані користувачів і збільшити аудиторію своїх ресурсів за допомогою фейків про соціальну допомогу. Ми виявили 145 таких відео (24%).

Фейкові Наталія Островська та Ірина Прокоф’єва (ведучі телеканалу «1+1») розповідають, що українці можуть отримати надбавки, пенсії чи виплати, якщо заповнять відповідні форми. Звернення часто таргетуються на певні категорії: пенсіонери, батьки, вчителі, ті, хто залишився в країні після початку повномасштабного вторгнення. Виплати нібито здійснюють різні структури — від ООН, Товариства Червоного Хреста, ЄС, Канади та США до державних банків, особисто президента та мереж магазинів «Аврора» і «MOYO».

Майже 20% відео (116) містить деструктивні або антиукраїнські наративи. Найчастіше це контент про жахи мобілізації, незаконні дії правоохоронців, дискредитацію влади й військово-політичного керівництва. У таких роликах розповідають, що сусіди України нібито планують окупувати західні області або що мир настане вже найближчим часом — варто лише підписатися на соцмережі, щоб дізнатися дату.

Спекуляції на поточних подіях відбуваються миттєво. Наприклад, 19 липня 2024 року було вбито політичну та громадську діячку Ірину Фаріон, і вже за кілька днів згенеровані ШІ голоси, накладені на реальні журналістські сюжети, розганяли в ТікТоці фейки про те, що вбивця був родичем Фаріон, що затримали не того і що є реальні кадри трагедії.

Як розрізняти справжні та фейкові відео

Експерт у галузі OSINT Генк ван Есс зазначає: «Гонка озброєнь між творцями ШІ й детекторами триває, і наразі перевага за швидкістю на боці творців. Визначення, що є дипфейком, а що ні, перетворюється на гру в кішки-мишки, і розробники постійно вдосконалюють технологію».

Під час перевірки варто звертати увагу на тривожні сигнали, особливо якщо ідентифікацію потрібно здійснити у швидкому темпі. Наприклад, експерт виокремлює такі моменти для швидкої візуальної перевірки.

Перевірка на бездоганність: чи в людини не надто елегантний, ідеальний для конкретної ситуації вигляд?

Перевірка шкіри в реальних умовах: чи не надто гладка шкіра, чи помітна ретуш там, де мала б бути природна текстура? Зверніть увагу на природну текстуру шкіри, пори та незначні асиметрії.

Загальна оцінка зовнішнього вигляду: чи відповідає зовнішній вигляд сценарію?

Оцінка одягу: чи є природні складки, сліди зносу?

Оцінка волосся: чи видно окремі волосинки? Чи волосся, навпаки, схоже на намальоване/глянцеве?

Оцінка ювелірних виробів та аксесуарів: аксесуари тривимірні чи пласкі, як на комп’ютерній графіці?

Огляд зубів: чи помітні природні недосконалості? Чи все, навпаки, здається ідеальним та однорідним?

Щодо голосу та аудіопереробок. Технологія клонування голосу дає змогу відтворити голос будь-якої людини, маючи лише кілька секунд аудіозапису. Однак залишаються помітні сліди штучного походження — у мовних патернах, емоційній достовірності та акустичних характеристиках.

Попри вражаючу точність, синтетичні голоси все ще не здатні передати ті тонкі особливості людської інтонації, які роблять мовлення по-справжньому автентичним.

Типові ознаки штучного походження голосу:

• неприродний рух губами;
• бездоганна вимова без властивих людській мові недоліків;
• роботизована інтонація окремих слів чи фраз;
• відсутність природного фонового шуму;
• фрази чи терміни, які в реальному житті людина навряд чи використовувала б.

Зробімо поверховий аналіз на наявність ШІ-генерації одного відео з нашого набору.

У відео «ведуча» весь час неприродно рухає руками. На кількох кадрах видно, що очі не фокусуються на камері, а ніби «висять» у просторі. Тло здається штучним. Аудіодоріжка також має ознаки штучної генерації: роботизована інтонація, неправильні наголоси і паузи, подеколи невідповідність між вимовленими словами й артикуляцією.

Варто зазначити, що оцінювати треба не лише аудіовізуальну складову, а й зміст повідомлень. Фрази на кшталт «усі мовчать, що…», «українці, а ви це чули…», лексика з елементами протиставлення «ми — вони» або «прості українці — влада», брак конкретики («відомий лікар без імені зробив гучну заяву»), а також відсутність посилань на джерела («більшість українців не знали про це») — усе це типовi прийоми маніпуляції, спрямовані на те, щоб викликати емоційну реакцію й утримати увагу користувача.

Замість висновків

Громадська організація «Жінки в медіа» у своєму новому дослідженні зазначає, що випадки використання ШІ-технологій для організації онлайн-атак на журналісток поки що не є масовими. Втім, такі інциденти вже фіксуються, і з розвитком технологій їх масштаби можуть стрімко зростати.

Опитування серед журналісток засвідчило: зі 119 респонденток кожна п’ятнадцята (7%) уже стикалася з онлайн-атаками, створеними за допомогою ШІ, ще 16% спостерігали такі атаки щодо своїх колег. Мішенями найчастіше стають журналістки та керівниці медіа як публічні представниці редакцій.

Крім того, 43% респонденток повідомили, що бачать згенерований ШІ контент щонайменше раз на тиждень, що свідчить про дедалі більшу присутність таких матеріалів у медійному середовищі.

Що показало наше дослідження

Цифрові аватари стають інструментом насильства. ШІ дає змогу створювати реалістичні копії журналісток, які можуть казати чи робити те, чого ніколи не було, підриваючи їхню репутацію та безпеку.

Репутаційні та психологічні наслідки масштабні. Відео з фейковими голосами й обличчями журналісток провокують кібербулінг, онлайн-хейтинг та «охолоджувальний ефект» для інших жінок у медіа.

ШІ пришвидшує дезінформацію. Завдяки алгоритмам ТікТоку згенеровані ШІ відео швидко набирають мільйони переглядів, що, по суті, унеможливлює перевірку та протидію фейкам.

Нова форма цифрового насильства. Викрадення образу і голосу журналісток — свідомий інструмент маніпуляції, що поєднує онлайн-насильство, дискредитацію та потенційні ризики для національної безпеки.

ТікТок формально зобов’язався забезпечувати прозорість контенту, створеного чи істотно зміненого штучним інтелектом. Політики платформи вимагають чіткого маркування таких відео та зображень або користувачем, або автоматично через систему Content Credentials. Теоретично це має запобігати поширенню синтетичного контенту. Також заборонено створювати контент, що імітує реальних осіб без їхньої згоди, вводить в оману або поширює дезінформацію.

Проте на практиці дотримання цих правил непослідовне. Наше дослідження засвідчило, що численні згенеровані ШІ відео з реальними журналістками публікувалися без належного маркування, інколи містили дезінформацію чи образи. Політики ТікТоку часто ігноруються, що ставить під сумнів ефективність захисту користувачів від синтетичного контенту та координованої неавтентичної поведінки.

Хоча ТікТок інвестує в технології виявлення та інформування користувачів, розрив між політикою та реальністю свідчить про те, що обіцянки прозорості залишаються радше декларативними.

На основі нашого дослідження, а також на основі Керівних принципів регулювання цифрових платформ, розроблених ЮНЕСКО, ми підготували низку рекомендацій.

Матеріал підготовлений Texty.org.ua і ГО «Жінки в медіа» в партнерстві з ЮНЕСКО та за підтримки Японії. Автори несуть відповідальність за вибір і викладення фактів, що містяться в цьому матеріалі, а також за висловлені в ньому думки, які не обов’язково збігаються з позицією ЮНЕСКО і не накладають на Організацію жодних зобов’язань

ТікТок відео дезінформація діпфейки жінки фейки штучний інтелект