Чат-боти роблять нас тупішими. Ось чотири способи уникнути цього, — WSJ

Моменти технологічної залежності стають дедалі поширенішими, оскільки генеративний штучний інтелект змінює те, як ми працюємо, навчаємося й мислимо, пишуть для The Wall Street Journal науковий співробітник Brainstorm: The Stanford Lab for Mental Health Innovation Пол Раст і засновниця та директорка Stanford Brainstorm Ніна Васан. Texty.org.ua наводять переклад ключових фрагментів матеріалу науковців.

Фото: Getty Images
Фото: Getty Images

Тепер, коли генеративний AI проникає на робочі місця та в навчальні заклади з безпрецедентною швидкістю, вчені спостерігають тривожне явище: тиху ерозію когнітивних здібностей людини.

Не дивно, що наш мозок, радіючи можливості уникнути труднощів, прагне таких коротких шляхів. Люди завжди використовували технології для когнітивного розвантаження — застосовували зовнішні інструменти, щоб знизити розумове навантаження. Ми записуємо нотатки, щоб щось запам’ятати, користуємося калькуляторами для арифметики та покладаємося на GPS для навігації.

Однак якщо попередні технології впливали лише на окремі навички, то генеративні інструменти ШІ піднімають ставки. Вони настільки масштабні у своїх застосуваннях і настільки автономні у виконанні завдань, що коли ми їх активуємо, наш розум фактично вимикається.

У цьому й криється ризик. Зручність, яка підвищує короткострокову продуктивність, може водночас пришвидшувати довгострокову когнітивну атрофію — і це в ширшому спектрі сфер, ніж будь-яка технологія до цього. Спираючись на знання з психології, медицини, авіаційних досліджень та поведінкових наук, вчені пропонують чотири звички, що допоможуть вибудувати більш усвідомлені стосунки з ChatGPT — такі, які не послаблюють, а зміцнюють наші когнітивні здібності.

Спочатку чернетка, потім підказка

Як і м’язи, наші когнітивні навички слабшають, коли їх не використовують. Перекладання всього завдання на ШІ може знижувати такі здібності, як розв’язання проблем, креативне мислення та критичне міркування.

Нещодавнє дослідження майже 1 000 студентів дає тривожний сигнал. Ті, хто користувався ChatGPT для розв’язання математичних задач, спершу випереджали своїх однокурсників на 48% під час тренувань. Але під час контрольного тестування без ШІ їхні результати виявилися на 17% гіршими, ніж у тих, хто працював самостійно. Короткостроковий виграш приховав довгострокові втрати.

Психологи давно наголошують на важливості так званих «досвідів оволодіння» — коли ми долаємо труднощі та самі справляємось із викликами. Це — найсильніший чинник формування впевненості у власній компетентності. Якщо ж ChatGPT оминає перешкоди за нас, справжня майстерність так і не з’являється; з часом здатність згасає, впевненість підточується, а залежність лише зростає.

Щоб підтримувати свої навички, спершу окресліть підхід до завдання, перш ніж відкривати вікно чату. Продумайте проблему й занотуйте ідеї — навіть кілька пунктів вистачить. Потім попросіть модель розгорнути або відшліфувати їх. Цей початковий ручний крок може здаватися поверненням у спортзал після тривалої перерви, але саме така свідома практика зберігає і навички, і впевненість.

Використовуйте ШІ як наставника

Чи помічали ви, що після запиту відповідей у Perplexity або ChatGPT ви легко й плавно пояснюєте концепції, дивлячись на екран, але за годину ясність зникає й ви плутаєтесь, намагаючись розповісти колегам?

Коли ми звертаємось до ШІ за прямими відповідями, ми менш глибоко залучаємося до процесу — і це шкодить пам’яті та розумінню. Попереднє дослідження MIT показало, що люди, які використовували ChatGPT для написання есе, гірше запам’ятовували власну роботу. Цей результат перегукується з «ефектом Google», коли легкий доступ до фактів знижує здатність до внутрішнього запам’ятовування; аналогічно, дослідження показують, що використання GPS зменшує просторову пам’ять.

Але зі ШІ під загрозою не лише поодинокі факти: ми можемо втрачати розуміння цілих концепцій та ідей, бо пояснення надходять в один клік.

Один із можливих способів розв'язання проблеми — перетворити бота на сократівського наставника. Замість запиту «Дай відповідь» спробуйте: «Проведи мене через задачу, щоб я розв’язав(ла) її сам(а)». Попросіть покрокові пояснення. Після завершення завдання закрийте вікно і спробуйте переказати ідею власними словами — це допоможе перевірити, наскільки добре ви її засвоїли.

В одному дослідженні зі студентами-хіміками модифікована версія ChatGPT, яка не видавала готових рішень, а надавала лише поступові підказки, забезпечила вищу залученість і кращі навчальні результати, ніж стандартна модель. Невеликий зсув — від запиту на результат до запиту на процес — формує тривале розуміння.

Тайм-аути та контрольні списки

Як часто ви ловите себе на тому, що механічно копіюєте згенерований ШІ текст, а потім здригаєтеся, коли колеги вказують на кричущі помилки, які якимось чином вислизнули з вашої уваги?

Надмірна залежність від ШІ виходить за межі атрофії навичок, вона призводить до упередженості. Дослідження, проведене цього року швейцарською бізнес-школою, в якому взяли участь 666 осіб, та опитування Microsoft, в якому взяли участь 319 працівників, показали, що сильна залежність від ШІ пов'язана з гіршими навичками критичного мислення.

Це робить нас вразливими до упередженості автоматизації, яка змушує нас безкритично сприймати судження машини та успадковувати її «сліпі зони». В одному поведінковому експерименті добровольці відмовилися від більшого грошового призу лише тому, що ШІ попередив їх не довіряти своєму людському партнеру, навіть після того, як докази свідчили, що співпраця була б вигідною.

Ризик виходить за межі одного невдалого рішення. Якщо ми не будемо критично осмислювати результати роботи ШІ, ми можемо перейняти властиві машині упередження. В одному з експериментів учасникам показували згенеровані ШІ зображення «фінансових менеджерів». 85% цих зображень зображали білих чоловіків, хоча насправді в США менш ніж 45% фінансових менеджерів є чоловіками, не кажучи вже про білих. Що особливо насторожує, після перегляду цих зображень учасники стали частіше асоціювати цю ідентичність з професією.

Щоб протидіяти цьому упередженню, люди можуть застосовувати інструменти так званого когнітивного примусу — методи, запозичені з медицини та авіації, які переводять мислення від швидкої, інтуїтивної обробки до повільного, зваженого аналізу. Лікарі роблять «діагностичні тайм-аути», щоб перевірити свої міркування, а пілоти проводять уявні перевірки перед зльотом. Застосовуйте такий самий підхід: коли ШІ видає відповіді, зробіть паузу. Перекажіть основні пункти вголос або запишіть їх. Потім пройдіться по умовному списку: Чи можна це перевірити? Які думки можуть бути відсутніми? Чи може це бути упередженим? Такі метакогнітивні запитання допомагають виявити помилки, розвивають оригінальність та критичне мислення.

Дослідження показують, що працівники з розвиненими метакогнітивними навичками стають більш креативними, використовуючи ChatGPT. Крім того, попереднє дослідження показало, що студенти, яким було запропоновано ставити собі метакогнітивні запитання — наприклад, «Наскільки відповідь відповідає тому, що ви очікували?» та «Чи є у відповіді щось, чого ви не до кінця розумієте?» — під час пошуку з використанням генеративного ШІ демонстрували вищий рівень критичного мислення.

Спробуйте «пост» без ШІ

Найпростіший спосіб зберегти свої інтелектуальні здібності — це оголосити певні періоди часу зонами без ШІ. Це може бути година, день або навіть цілий проєкт. Виконання завдань самостійно — найнадійніший спосіб уникнути залежності та підтримувати гостроту мислення.

Оскільки генеративний ШІ невпинно набирає обертів, це змушує нас переосмислювати саму природу людських можливостей — як на інституційному рівні, так і на особистому.

У корпоративному середовищі постають питання щодо таланту та створення цінності. Компанії, які активно інвестують в інструменти продуктивності на основі ШІ, можуть ненароком підірвати довгострокові здібності своїх працівників.

Освітні установи стикаються з ще складнішим викликом: повна заборона генеративного ШІ може залишити студентів цифрово неграмотними у світі, насиченому ШІ, а необмежений доступ — підірвати ті самі мисленнєві навички, які освіта покликана розвивати. Цей виклик потребує тонко збалансованих, доказових підходів, які навчають студентів використовувати переваги ШІ, водночас зберігаючи формування критичних навичок.

ШІ мислення мозок наука технології

Знак гривні
Знак гривні