YouTube занурює світ в екстремізм. Алгоритм завжди запропонує вам подивитися більш радикальну версію

Якось під час президентської кампанії 2016 року мені довелось передивитись багато відеороликів Дональда Трампа на YouTube. Я писала статтю про те, що робить Трампа таким привабливим для його виборців, і хотіла знайти на YouTube оригінали кількох цитат.

Вже скоро я помітила дещо цікаве. YouTube почав рекомендувати і відтворювати наступним відео з риторикою білих супрематистів, запереченнями Голокосту та інші суперечливі матеріали.

Оскільки доти у мене не було звички дивитися праворадикальні відео на YouTube, мені стало цікаво, чи це працює лише для правого ідеологічного спектру. Тому я створила ще один аккаунт YouTube і почала дивитися відео Хілларі Клінтон та Берні Сандерса, щоб перевірити, що цього разу запропонує мені алгоритм рекомендацій.

Після кількох відео алгоритм почав підбирати для мене ролики з лівими конспірологічними теоріями, у тому числі про діяльність таємних урядових агенцій та зі звинуваченнями уряду США в організації теористичних актів 11 вересня. Як і з відео Трампа, YouTube рекомендував мені все радикальніші ідеї порівняно з тими, які були на початку.

Я була заінтригована цим спостереженням, і тому продовжила свій експеримент із відео на неполітичні теми. YouTube поводився так само: після кількох відео про вегетаріанство у мене в рекомендаціях з’являлись відео про веганство. А за роликами про пробіжки послідували відео про те, як пробігти ультрамарафон.

Схоже, що які б відео ви не дивилися, алгоритм YouTube завжди знайде для вас радикальніші рекомендації. Сайт рекламує, рекомендує та поширює відео таким чином, щоб постійно підвищувати ставки. Враховуючи те, що аудиторія YouTube налічує мільярди користувачів, платформа може стати одним із найпотужніших інструментів радикалізації у 21 столітті.

Пепа у стоматолога. Якщо ваша дитина дивитимется мультик про Свинку Пепу, рано чи пізно Ютуб підсуне цей сиквел

Це не означає, що існує змова розробників YouTube про те, як привести цей світ до катастрофи. Скоріш за все, пояснення пов’язане із розвитком штучного інтелекту та бізнес-моделлю Google (YouTube належить компанії Google). Попри красномовні заяви про місію та цінності, Google за своюєю суттю залишається рекламним брокером, який продає нашу увагу іншим компаніям. Тож чим більше часу люди проводять на YouTube, тим більше грошей заробляє Google.

Що ж утримує людей на YouTube? Схоже, що алгоритм платформи знайшов відповідь на це питання в тому, щоб пропонувати людям все більш екстремальний контент.

Чи так це насправді? Для достеменної відповіді бракує даних, адже Google не прагне ділитися інформацією з незалежними дослідниками. Але зараз ми маємо перші здогади завдяки інформації від колишнього інженера Google, Гіллома Часлота (Guillaume Chaslot).

Часлот працював над розробкою алгоритму рекомендацій в YouTube. При цьому, він висловлював занепокоєння щодо тактики, яку використовує платформа, щоб утримати увагу користувачів. Зрештою, у 2013 році Часлота звільнили з Google буцімто через недостатню продуктивність. Сам звільнений співробітник стверджує, що справжньою причиною були його спроби змінити підхід до формування рекомендацій.

The Wall Street Journal з допомогою Часлота провела власне розслідування контенту на YouTube. У результаті з'ясувалося, що YouTube часто "згодовував" відео з радикально правими або лівими ідеями користувачам, які до цього дивились порівняно помірковані сюжети з новин.

Ця тенденція спрацювала для різних відео. Наприклад, якщо одного дня ви вирішите пошукати відео про вакцину проти грипу, то рано чи пізно серед рекомендованих ви знайдете конспірологічні ролики про те, що насправді вакцинація - це злочинна змова.

Ймовірно, що алгоритм рекомендацій YouTube загалом схильний пропонувати користувачам більш екстремальний контент, незалежно від теми.

Напередодні виборів до 2016 року Гіллом Часлот створив програму, яка відстежувала найбільш трендові відео на YouTube, а також патерни, за якими вони потрапляли до рекомендацій. Часлот дійшов висновку, що незалежно від того, “почали” ви на YouTube як прихильник Клінтон чи Трампа, є висока ймовірність, що зрештою платформа почала б вам рекомендувати ролики “за Трампа”.

Висновки Часлота у поєднанні із результатами інших досліджень демонструють, що під час кампанії 2016 року фальшиві новини (“fake news”) Трампа поширювались наYouTube активніше за ролики Клінтон лише тому, що його відео були радикальнішими.

Не так давно творців YouTube звинуватили в тому, що сайт активно рекомендує відео з теоріями змови, в яких стверджувалось, що стрілянина в школі Паркленду (штат Флорида) була вигадкою. Буцімто відео з місця подій були змонтовані, а ролі жертв грали каскадери.

Джонатан Олбрайт, дослідник з Колумбійського університету, нещодавно провів експеримент, створивши аккаунт на YouTube, який шукав лише відео за ключовим словом "каскадер" (англ. “crisis actor”). В результаті після низки рекомендацій науковець виявив цілу мережу із близько 9000 відео, що “підтверджували” теорію про підставну стрілянину та схожі конспірологічні теорії. Зокрема, у більшості таких роликів також стверджувалось, що інший випадок стрілянини в школі у місті Ньютаун (штат Коннектикут, 2012 рік) насправді був обманом.

Ми спостерігаємо, як за допомогою технологій використовують природнє бажання людини: зазирнути "за завісу", щоб дізнатися більше про теми, які нас хвилюють. Коли ми переходимо на нові й нові відео, нас охоплює азарт від імовірності, що ми можемо дізнатись більше таємниць. Доки YouTube створює для користувачів тунель екстремізму, Google підіймає об’єми продажів реклами.

Люди мають багато природних схильностей, які можуть мати негативні наслідки в контексті сучасного життя. Наприклад, любов до жирної, солоної чи солодкої їжі, яку ми успадкували з часів, коли їжа була дефіцитом, може стати згубною в умовах, коли навколо нас постійно активно рекламується та продається надлишок жирів, солі та цукру. Так само природня цікавість до невідомого може допомогти сайту з відео вести нас в напрямку брехні, підбурювання та дезінформації.

YouTube створив ресторан, який пропонує нам все солодші та жирніші продукти, завантажуючи наші тарілки новою порцією, тільки-но ми закінчуємо з попередньою. Згодом це впливає на наші смаки, і ми починаємо прагнути ще більше цукрованих жирних продуктів, які ресторан слухняно забезпечує. Коли ж відділ охорони здоров'я та зацікавлені громадяни починають звертати на це увагу, менеджер ресторану відповідає, що заклад лише задовольняє бажання клієнтів.

Ця ситуація стає особливо небезпечною, якщо врахувати, скільки людей, особливо серед молоді, звертаються до YouTube як до джерела інформації. Найбільш доступні ноутбуки Chromebook від Google продаються з одразу завантаженим додатком YouTube. Частка цих ноутбуків серед користувачів шкільного віку складає більше 50 відсотків ринку лептопів у США.

Такий стан справ є неприйнятним, проте у нас все ще є вибір. Немає жодних підстав для того, щоб дозволяти компанії заробляти стільки грошей, радикалізуючи мільярди людей.

Читайте далі: Комп’ютерно-Модифіковані Організми. Як машинні алгоритми визначають наше життя.

Також читайте: Вигадка перемагає реальність. Як алгоритми YouTube спотворюють правду

ютуб алгоритми інозмі