Чому ШІ не варто використовувати для написання змістовних текстів

Я вважаю, що ШІ майже ніколи не варто використовувати для написання текстів. Незалежно від того, чи це буде допис у блозі, чи дослідницький звіт, чи змістовний електронний лист, чи роман, чи будь-який інший текст, у якому викладені якісь ідеї, аргументи чи інші важливі думки.

Так, використання ШІ для написання тексту має певні переваги. Адже для цього знадобиться менше зусиль і менше часу. Але недоліки використання штучного інтелекту негативно впливають і на фінальний продукт, і на самого автора, нівелюючи ці плюси.

Згенеровані штучним інтелектом тексти часто є нечіткими й містять помилки, які важко помітити. Використовувати ШІ для написання текстів без відповідного маркування — це не поважати свою аудиторію. Та й загалом процес написання є невід’ємною частиною мисленнєвого процесу.

Написання — це мислення

Мета будь-якого дослідження полягає у формуванні точних уявлень щодо важливих питань. Потім ці уявлення автори намагаються донести до аудиторії. На мою думку, одним із найкращих способів зробити це є сам процес написання.

Американський програміст та есеїст Пол Ґрем зазначав:

Коли ви пишете про щось, навіть про те, у чому добре розбираєтеся, у процесі зазвичай виявляється, що ви розумієтеся на цьому не так вже й добре. Висловлювання думок — це суворий іспит. […] Половина ідей, які зрештою потрапляють в есе, — це ті, що спали вам на думку під час самого написання. Тому я їх і пишу.

У подкасті інфлюенсера Патріка Маккензі журналістка Клара Коллієр наводить схожі аргументи:

Коли я пишу щось змістовне, немає жодної частини цього процесу, коли б я не міркувала і не змінювала своєї думки. Від самого плану до перетворення його на текст й аж до окремого речення. Часто я намагаюся перетворити план на готовий текст, експериментую з переходом, але це не працює.

Коли я пишу щось змістовне, немає жодної частини цього процесу, коли б я не міркувала і не змінювала своєї думки

Я усвідомлюю, що насправді цей перехід не працює через те, що ці дві думки не треба ставити поруч, тобто я роблю це неправильно. Але якщо я завантажу свій план у велику мовну модель (LLM), то вона не зупиниться й не замислиться над тим, що, можливо, сам план поганий.

Ведучий подкасту Патрік погоджується:

Я цілковито погоджуюся, що процес написання — це процес мислення.

Маючи сильну тезу, автор змушений викласти її в тексті реченнями й абзацами для структурування аргументів. І саме це структурування покаже йому, де є прогалини в аргументації. Сам процес написання покаже йому, де він недостатньо дослідив обрану тему, виявить можливі суперечності.

І тоді я, швидше за все, визнаю, що існують контраргументи до моїх уже викладених тез, і додам їх.

Я здебільшого погоджуюся із цими думками. Коли я щось пишу, то спершу маю зрозуміти, що саме хочу сказати, обміркувати докази й аргументи і дійти певних висновків. Написання змушує мене робити речі, що необхідні для будь-якого письменницького чи дослідницького проєкту. Для будь-якого такого проєкту хтось повинен мати в голові загальну картину: усі докази, міркування, аргументи і те, як вони поєднуються між собою. Написання за допомогою ШІ дає змогу уникнути процесу мислення.

ШІ-тексти маскують помилки

Коли я щось пишу, то приймаю безліч дрібних рішень щодо конкретних формулювань. І всі вони сприяють загальній чіткості й правильності тексту.

Якщо я попрошу Claude Fable 5 написати короткий абзац, у якому висвітлювалася б проблема контрабанди чипів ШІ, тобто на тему, про яку вже багато писали і широко висвітлювали, він видасть таке:

З жовтня 2022 року Сполучені Штати обмежили експорт сучасних чипів штучного інтелекту до Китаю, щоб сповільнити його прогрес у сфері ШІ. Однак ефективність експортного контролю залежить від ступеня його дотримання, а чипи штучного інтелекту компактні, надзвичайно цінні й продаються через розгалужені глобальні ланцюги постачання.

Це робить їх привабливими й зручними для контрабанди. Мережі контрабанди переправляють контрольовані графічні процесори через посередників у таких країнах, як Сінгапур, Малайзія та ОАЕ, використовуючи фіктивні компанії та підроблені документи для їх ввезення до Китаю. Оцінки масштабів контрабанди варіюються від десятків тисяч до, можливо, сотень тисяч високотехнологічних чипів на рік, і навіть найнижчі показники забезпечують обчислювальну потужність, достатню для навчання та розгортання ефективних систем штучного інтелекту.

Тим часом Бюро промисловості та безпеки, яке має контролювати торгівлю обсягом у сотні мільярдів доларів, працює з бюджетом і штатом, які більше підходять для значно меншої проблеми. Таким чином, контрабанда чипів загрожує непомітно підірвати один із центральних стовпів політики США у сфері штучного інтелекту.

Текст не такий вже й страшний і, швидше за все, цілком розумний. Проте чи сформулював би я його так само?

Ні, бо насправді Claude подав інформацію досить вибірково.

• Штучний інтелект пише, що «ефективність експортного контролю залежить від ступеня його дотримання», але що це означає? Це констатація очевидного факту. Якщо дотримуватися конкретної політики, вона працюватиме ефективно. Якщо ні, то не працюватиме. Речення не має сенсу.
• Claude пише, що чипи ШІ «компактні». Це правда, але зазвичай контрабандою перевозять сервери ШІ, які не є компактними. Проте це не має значення, бо контрабанда чипів рідко означає приховування товару від митниці. Найчастіше продукцію просто перемарковують на інший вид товару.
• Claude пише, що продаж через розгалужені глобальні ланцюги постачання робить чипи ШІ «привабливими й зручними для контрабанди». Що це означає? Йдеться про те, що контрабандистам легше купувати чипи в компаній за межами США? Чи про те, що завдяки цьому контрабандисти, які купують велику кількість чипів ШІ в таких країнах, як Малайзія, стають менш помітними? На мою думку, другий варіант ближчий до істини.
• Claude пише, що оцінки масштабів контрабанди «варіюються від десятків тисяч до, можливо, сотень тисяч високотехнологічних чипів на рік». Буквально це правда, але низькі оцінки майже напевно є помилковими, а справжня цифра, ймовірно, набагато ближча до верхньої межі, згаданої ШІ, тобто до сотень тисяч. Тож ця фраза вводить в оману. Крім того, ШІ не вказує конкретного року, тоді як обсяги контрабанди значно коливалися з жовтня 2022-го, а також не уточнює, що таке «високотехнологічний» чип (звучить так, ніби це розкішний товар, який виготовляється вручну й продається виключно саудівській королівській родині чи герцогам).
• Claude пише, що «навіть найнижчі показники забезпечують обчислювальну потужність, достатню для навчання та розгортання ефективних систем штучного інтелекту». Ця фраза не має жодної інформаційної цінності. У певному сенсі навіть один чип ШІ «має значення» для навчання та розгортання цих систем, спроможних чи ні. (І що взагалі таке «спроможна система ШІ»? Чому невелика обчислювальна потужність має більше значення для потужної системи ШІ, ніж для слабшої? Якщо вже на те пішло, можна було б подумати, що все навпаки, що слабша система ШІ отримає більше користі від невеликої обчислювальної потужності.)
• Claude пише, що Бюро промисловості та безпеки (BIS) «має контролювати торгівлю обсягом у сотні мільярдів доларів». Тут набагато краще було б просто вказати цифру.
• Claude пише, що BIS «працює з бюджетом і штатом, які більше підходять для значно меншої проблеми». По-перше, ми знаємо бюджет і штат BIS, тож краще було б навести ці цифри й надати їм контекст. По-друге, що означає «менша проблема»? Що вона менш важлива? Чи що для її вирішення потрібно менше зусиль? Чи щось інше? Хіба не важливіше те, що збільшення бюджету і ресурсів для BIS, імовірно, суттєво покращило б контроль за дотриманням законодавства, а не те, що ті ресурси, які BIS має на сьогодні, краще підходять для вирішення якоїсь іншої проблеми?
• Останнє речення Claude про те, що контрабанда чипів для ШІ «загрожує непомітно підірвати один із центральних стовпів політики США у сфері штучного інтелекту», — це абсолютно порожня, неінформативна фраза.

Кілька таких неточностей у тексті не має великого значення. Проте, як я бачу зі свого досвіду, написані ШІ тексти перенасичені надто розмитими й неправильними фразами. Зауважте, що ця проблема зберігається й тоді, коли ви надаєте ШІ багато контексту. Наприклад, письмові нотатки та конспекти.

Професор філософії Каліфорнійського університету Ерік Швіцґебель пише:

Експерти думають інакше й краще, ніж великі мовні моделі (LLM). Вибір слів, написаних експертом, навіть найтонший, відображає нюанси, яких вони самі можуть і не усвідомлювати. Текст експерта зазвичай буде чутливішим до питань, у яких він є фахівцем, ніж результат роботи мовної моделі. […]

Вибір слів, написаних експертом, відображає нюанси, яких вони самі можуть і не усвідомлювати

Ви можете заперечити: «Звісно, я переглядаю результати роботи великої мовної моделі (LLM) перед тим, як комусь надіслати, і я не надіслав би електронного листа, а тим більше статтю, якби не схвалив кожне слово!». Отже, продовжується заперечення, ви справді мали ті думки, які викладені в тексті. Текст відображає ваше найкраще експертне судження, можливо, навіть щось ще краще за нього: ваше найкраще експертне судження в поєднанні з експертизою великої мовної моделі.

Проте існує величезна когнітивна різниця між тим, щоб кивати головою, читаючи щось, і тим, щоб фактично і продуктивно створювати текст.

По-перше, коли текст уже на сторінці, легко пасивно задовольнитися приблизним словом, замість того щоб обмірковувати вибір кожного слова так само ретельно й активно, як ми це робимо, коли пишемо з нуля. По-друге, як я вже зазначав, сумніваюся, що люди, навіть експерти, мають чітке уявлення про всі фактори, які впливають на вибір слів, про все, до чого вони чутливі. Ви сформулювали б це трохи інакше, і навіть якщо ви цього не знаєте чи не розумієте чому, аудиторії надсилається й аудиторією сприймається інший сигнал.

Я із цим згоден. Проте насправді все набагато гірше! ШІ не лише пише надмірно розпливчасті тексти, а й робить це майже максимально переконливо!

Якщо ШІ чогось «не знає», він напише щось беззмістовне, але красиво загорнуте

Якщо ШІ «не знає» того, про що ви просите його написати, він зазвичай не зупиниться і не скаже вам, що не знає; натомість він напише щось настільки розпливчасте й беззмістовне, що може здаватися правдою, або щось, що звучить правдиво, але не є або не обов’язково є правдою. Люди також часто помиляються й висловлюються розпливчасто, але зазвичай ми робимо це так, що це легше помітити.

Потрібно докласти чимало зусиль, щоб прочитати написаний ШІ текст і виявити всі найдрібніші недоліки, як я це зробив, наприклад, із текстом про контрабанду чипів ШІ. І якби я не знав достатньо про контрабанду чипів ШІ чи не дуже ретельно проаналізував цей текст, то, ймовірно, не помітив би більшості описаних мною недоліків. А якби я сам написав цей текст, то просто не зміг би не помітити місця, де сам заплутався.

Обман читача

Коли я пишу текст, то роблю це з наміром, щоб його прочитали інші люди. Наприклад, я можу опублікувати його в інтернеті, поділитися з колегами, надіслати видавцеві.

Коли я публікую або ділюся текстом, людина, яка його читає, ймовірно, очікує, що я вклав певні роздуми в те, що написав, що текст відображає мої думки. Принаймні я хотів би, щоб так було. Це негласний договір між читачем і автором: читач приділяє свою увагу, а автор віддячує за це чимось цінним, наприклад, інформацією.

У тому самому епізоді подкасту Патріка Маккензі Клара Коллієр розповідає:

Можливо, я тут трохи перебільшую значення власного письма, але у версії мого тексту, яку могла б створити LLM, завжди бракуватиме чогось, що можу додати саме я. І знову ж таки це не тому, що я знаю більше: є багато сфер, у яких моделі знають значно більше за мене. Але будь-хто може будь-коли запитати Claude про що завгодно.

Якщо люди читають текст, який написала я або який я як редакторка вирішила їм запропонувати, між нами існує певна негласна домовленість. Я пропоную їм щось, що вони не могли б отримати деінде. І прочитати мій авторський текст для них краще, ніж поставити запитання безпосередньо моделі.

Люди очікують, що прочитати авторський текст для них краще, ніж поставити запитання моделі

Саме тому я не використовувала б текст, безпосередньо згенерований LLM. А якби й використовувала, то воліла б попередити читача про те, що саме він збирається читати, ще до того, як він витратить на це свій час.

І саме тому, коли ви поширюєте написаний ШІ текст або надсилаєте комусь його чернетку, я вважаю, що ви поводитеся грубо. Це схоже на те, якби ви надіслали комусь дуже недбало написану чернетку й приховали той факт, що вона справді написана недбало.

І якщо ви чітко не позначаєте результати, згенеровані ШІ, ви вводите в оману читача, який очікуватиме, що ваш текст є вашим, ретельно продуманим і таким, що відображає саме ваші переконання.

Звісно, ви можете не вводити читачів в оману, позначивши текст як «написаний ШІ» або «переважно написаний ШІ». Однак я підозрюю, що більшість людей не хоче цього робити.

Чи є винятки?

Питання: чи можу я включати результати, видані ШІ, у текст, якщо я чітко позначу їх як такі?

Відповідь: так, на мій погляд, це загалом прийнятно.

Наприклад, я можу поверхово дослідити якусь тему, поклавшись на Claude, а потім написати щось на кшталт: «Якщо вірити Claude Fable 5, десь так воно і є». Це може бути корисно, коли немає сенсу витрачати багато часу на перевірку саме цього твердження. Головне, щоб фрагмент був чітко позначений як написаний ШІ, щоб читач міг сам вирішити, брати чи не брати його до уваги.

Питання: тоді я можу просто робити так з усім текстом?

Відповідь: я вважаю, що використовувати ШІ для написання всього змістовного тексту не варто, навіть якщо він позначений як такий. Принаймні якщо передбачається, що його читатимуть інші люди. Бо, по-перше, результат вийде набагато гіршим, ніж якби ви написали його самостійно, а по-друге, люди (цілком справедливо) не читатимуть ваш текст, якщо ви позначите його як написаний ШІ. Як на мене, тексти за допомогою ШІ не варто писати навіть тоді, коли єдиною людиною, яка їх читатиме, є ви самі, оскільки ви втрачаєте всі ті переваги, які я описав вище.

Питання: чи можу я використовувати ШІ для перекладу текстів англійською, якщо англійська для мене не є рідною мовою і мені важко писати англійською?

Відповідь: є люди, які вважають, що це прийнятно, зокрема й без розкриття цієї інформації. Але я з цим не погоджуюся і вже пояснив чому. На мою думку, використання ШІ для перекладу тексту, написаного рідною мовою, може бути прийнятним, але про це краще повідомити. Загалом ШІ краще зберігає чіткість і точність у процесі перекладу, ніж, скажімо, коли генерує текст на основі конспекту у вигляді пунктів.

Питання: а якщо ставки дуже високі й дуже важливо пришвидшити написання текстів, скажімо, для службових записок, пов’язаних із ШІ?

Відповідь: не думаю, що використання ШІ для написання текстів насправді значно пришвидшує роботу. На практиці пришвидшення відбувається через зниження якості, а я не вважаю, що варто йти на компроміси, якщо йдеться про якість. Наприклад, Вашингтон уже потопає у звітах та службових записках, які майже ніхто не читає. Чого справді бракує і що справді допомагає політикам, то це точніший і ґрунтовніший аналіз важливих тем.

ШІ журналістика концепція мислення мовні моделі переклад тексти штучний інтелект

Підпишіться, щоб отримувати найкращі статті на e-mail (раз на два тижні)

Підписатися

Подивитись свіжий випуск