Як шахраї використовують створені штучним інтелектом зображення у Facebook, — дослідження
Рене ДіРеста зі Стенфордського університету та Джож Голдштейн з Центру безпеки та нових технологій Джорджтаунського університету опублікували велике дослідження про те, як шахраї використовують створені ШІ зображення у Facebook. Texty.org.ua публікують головні висновки експертів.
"Ми показуємо, що спамери та шахраї — на перший погляд, мотивовані вигодою або впливом, а не ідеологією — вже використовують зображення, створені штучним інтелектом, щоб отримати значну популярність у Facebook. Іноді стрічка Facebook рекомендує немарковані зображення, створені штучним інтелектом, користувачам, які не стежать за сторінками, що публікують ці зображення, і не знають, що вони створені ШІ, що підкреслює необхідність підвищення прозорості та стандартів походження зображень у зв'язку з поширенням моделей штучного інтелекту", — пишуть дослідники.
Автори дослідили 125 сторінок Facebook, на яких було розміщено щонайменше 50 зображень, згенерованих штучним інтелектом, класифікувавши їх як спам, шахрайство та інші категорії авторів. Деякі з них були скоординованими кластерами, керованими одними й тими ж адміністраторами. Станом на квітень 2024 року середня кількість підписників цих сторінок становила 146 681, а медіана — 81 000.
Висновок 1: Спамери, шахраї та інші творці публікують немарковані зображення, згенеровані штучним інтелектом, які набирають велику кількість вподобань у Facebook. Багато користувачів, схоже, не розпізнають, що зображення є синтетичними.
Немарковані зображення, створені штучним інтелектом, на досліджуваних сторінках зібрали значну кількість переглядів і взаємодій. Одним зі способів виявлення сторінок, які обманом використовують зображення, створені штучним інтелектом, було спостереження за повторюваним текстом підписів на різних сторінках — навіть на тих, які, здавалося б, не пов'язані між собою. Наприклад, згенерований ШІ контент із зображеннями людей похилого віку, ампутованих ніг і немовлят часто містив у підписі фразу «Ніхто ніколи не благословляв мене».
Згенеровані штучним інтелектом зображення людей, а також їхні нібито вироби з дерева чи малюнки супроводжувалися підписами на кшталт «Зробив це власноруч»; ані зображена людина, ані витвір мистецтва не є справжніми. Фрази на кшталт «Це мій перший торт! Буду рада вашим оцінкам» явно закликають до зворотного зв'язку. Часто ці пости отримували хвалебні коментарі. Іноді текст допису не мав сенсу в контексті; згенероване штучним інтелектом зображення Ісуса у вигляді краба, якому поклоняються інші краби, також гордо заявляло: «Зробив це своїми руками!» і отримало 209 000 реакцій та понад 4 000 коментарів.
Висновок 2: Стрічка Facebook іноді рекомендує згенеровані ШІ немарковані зображення користувачам, які явно не стежать за сторінкою, що розмістила цей контент.
Такий високий рівень залученості частково зумовлений алгоритмом рекомендацій Facebook.
Висновок 3: Шахрайство та спам. Сторінки, що використовують велику кількість зображень, згенерованих ШІ, застосовують відомі обманні прийоми, такі як крадіжка або перепрофілювання сторінок, і демонструють підозрілий приріст підписників.
Дослідження динаміки впливу соціальних мереж показали, що зростання кількості підписників є загальною стратегічною метою. Отримання сторінки з існуючими підписниками забезпечує готову аудиторію, яку можна монетизувати. Велика кількість підписників підвищує довіру до сторінки, тому для створення такого сприйняття також використовується фейкова залученість. Деякі з проаналізованих дослідникаи сторінок у Facebook використовували перевірену тактику в цьому напрямку: 50 з них змінили назву, часто на зовсім іншу, а деякі продемонстрували різкий стрибок у кількості підписників після зміни назви (але до початку нової активності, яка б органічно спричинила такий сплеск підписників).
Сторінки шахраїв часто використовували зображення дітей, тварин, будинків і захопливих дизайнів.
Висновок 4: Частина користувачів Facebook зрозуміла, що зображення були створені штучним інтелектом, і вжила заходів, щоб попередити інших користувачів.
Хоча більшість коментарів щодо зображень, згенерованих штучним інтелектом, не були пов'язані зі штучним характером зображень, деякі користувачі, які бачили ці зображення, критикували їх за маніпулятивний контент або підозрілу поведінку.
Окрім попередження інших через відгуки, користувачі публікували коментарі до фотореалістичних зображень, підкреслюючи, що контент згенеровано штучним інтелектом. Ці коментарі іноді містили попереджувальну інфографіку, яка пояснювала погану поведінку на сторінках зі штучним інтелектом, зокрема участь у негідних діях, таких як визначення цілей для шахрайства.
Докладно з дослідженням можна ознайомитися за посиланням.
