Фрагменти

Ваші розмови з ChatGPT читають: OpenAI наймає сотні підрядників для перевірки відповідей ШІ

Компанія OpenAI залучила сотні підрядників для аналізу величезного потоку реальних промптів користувачів ChatGPT. Фахівці читають цілі діалоги, які нерідко містять чутливу особисту інформацію, щоб оцінювати та коригувати відповіді штучного інтелекту. При цьому більшість із понад 900 мільйонів користувачів сервісу навіть не здогадується, що їхнє приватне листування потрапляє на очі стороннім людям.

Про це йдеться в розслідуванні видання 404 Media.

Ризики для приватності

Головна мета команд з аналізу промптів — підвищити якість відповідей чат-бота, критикуючи та оцінюючи згенеровані репліки. Як свідчать внутрішні документи OpenAI, які опинилися в розпорядженні 404 Media, підрядники навчають модель не антропоморфізувати себе та контролюють рівень її догідливості. Надмірна догідливість моделі 4o вже створила серйозні проблеми для розробників, а в деяких судових позовах її навіть пов'язують із випадками самогубств.

Для багатьох користувачів ця практика стає неприємним сюрпризом і створює серйозні ризики витоку приватної інформації. Люди часто сприймають ChatGPT як цифрового друга, професійного асистента або навіть психотерапевта, ділячись із ним інтимними подробицями.

Хоча підрядники не бачать імен користувачів, а спеціальний алгоритм Privacy Filter намагається вилучати персональні дані до передачі тексту людям, у самій компанії визнають: автоматична система нерідко припускається помилок і пропускає чутливі деталі, особливо в коротких повідомленнях або складних контекстах.

Як влаштований процес перевірки

Журналісти 404 Media розкрили конкретні деталі того, як саме працюють рецензенти. У спеціальній панелі вони обирають завдання, читають реальний запит, формулюють короткий підсумок намірів користувача, а потім оцінюють чотири варіанти відповідей ChatGPT за 7-бальною шкалою, критикуючи штучний стиль або недоречні емодзі.

За таку рутинну роботу підрядникам у Північній Америці платять понад 50 доларів на годину, а наймають їх через сторонні рекрутингові та AI-платформи на кшталт Crossing Hurdles та Mercor.

Конфіденційність за замовчуванням

Налаштування, яке дозволяє використовувати розмови для навчання моделей OpenAI, за замовчуванням увімкнене для всіх безплатних користувачів, а також для передплатників тарифів Plus і Pro. Щоб захистити свої дані від перегляду людьми, користувачі мусять самостійно шукати відповідний пункт у налаштуваннях приватності та вимикати його.

Для корпоративних та освітніх акаунтів ця функція вимкнена початково, проте для решти аудиторії відмова не має зворотної сили й не поширюється на вже відправлені повідомлення.

Залучення людей для оцінювання реальних діалогів не є унікальною практикою лише для OpenAI. Подібні підходи для вдосконалення власних великих мовних моделей застосовують й інші технологічні гіганти, зокрема Google у сервісі Gemini та компанія Anthropic для чат-бота Claude.

Фахівці з кібербезпеки наголошують, що сучасні інтерфейси чат-ботів штучно створюють хибне відчуття інтимності та повної конфіденційності спілкування віч-на-віч, хоча насправді з іншого боку екрана за бесідою можуть спостерігати наймані працівники.

chatGPT ШІ захист даних приватність технології чатботи