Чому майже ніколи не варто використовувати ШІ для написання змістовних текстів

Я вважаю, що майже ніколи не слід використовувати ШІ для написання текстів. Чи то для допису в блозі, дослідницького звіту, змістовного електронного листа, роману чи будь-якого іншого тексту, спрямованого на передачу ідеї, аргументів чи інших змістовних думок.

І так, використання ШІ для написання тексту має різні переваги. Автори можуть вкласти менше зусиль і витратити менше часу. Тож недоліки використання штучного інтелекту мають суттєво негативно впливати на фінальний продукт та самого автора, аби ці нівелювати ці плюси.

Написані ШІ тексти часто є нечіткими та містять помилки, які важко помітити. Використання ШІ для написання текстів без відповідного позначення є нечемним ставленням до авдиторії. І загалом процес написання є невід’ємною частиною процесу мислення.

Написання — це мислення

Мета будь-якого дослідження полягає у формуванні точних уявлень щодо важливих питань. Потім ці уявлення автори намагаються донести до авдиторії. На мою думку, одним із найкращих способів зробити це є написання.

Американський програміст та есеїст Пол Ґрем писав:

Коли ви пишете про щось, навіть у чому добре розбираєтесь, зазвичай виявляється, що ви розумієтесь на цьому не так вже й добре. Вираження думок словами — це суворий іспит. […] Половина ідей, які зрештою потрапляють до есе, — це ті, що спали вам на думку під час самого написання. Тому я їх і пишу.

У подкасті інфлюенсера Патріка Маккензі журналістка Клара Коллієр наводить схожі аргументи:

Коли я пишу щось змістовне, немає жодної частини цього процесу, під час якої я б не міркувала й не змінювала свою думку. Від плану до перетворення його на текст і аж до окремого речення. Часто я намагаюся перетворити план на готовий текст, експериментую з переходом, але це не працює.

"Коли я пишу щось змістовне, немає жодної частини цього процесу, під час якої я б не міркувала й не змінювала свою думку"

Я усвідомлюю: «О, причина, чому цей перехід не працює, полягає в тому, що насправді ці дві думки не слід ставити поруч. Я роблю це неправильно». Проте, якщо я завантажу свій план у велику мовну модель (LLM), вона не зупиниться й не замислиться над тим, що, можливо, сам план поганий.

Ведучий подкасту Патрік погоджується :

Я цілком погоджуюся, що процес написання — це процес мислення.

Маючи сильну тезу, автор змушує викласти її в тексті реченнями й абзацами для структурування аргументів. Ця ж структура покаже автору, де є прогалини в аругментації. Цей акт примушення писати покаже письменнику, де він недостатньо дослідив обрану тему. Процес написання виявить можливі суперечення.

Скоріше за все у такому випадку я визнаю, що існують контраргументи до моїх вже викладених тез, і додам їх.

Я в основному погоджуюся з цими думками. Коли я щось пишу, я спочатку мушу знати, що саме хочу сказати. Спочатку я мушу обміркувати докази та аргументи й дійти певних переконань. Написання змушує мене робити ті речі, які необхідні для будь-якого письменницького чи дослідницького проєкту. Для будь-якого такої роботи хтось має мати в голові загальну картину — усі фрагменти доказів, міркування, аргументи та те, як вони поєднуються між собою. Написання за допомогою ШІ дозволяє уникнути цього мислення.

ШІ-тексти маскують помилки

Коли я щось пишу, я приймаю безліч дрібних рішень щодо конкретних формулювань та виразів. Разом ці рішення сприяють загальній чіткості та правильності тексту.

Якщо я попрошу Claude Fable 5 «написати короткий абзац, у якому висвітлюється проблема контрабанди чіпів ШІ» — тему, про яку вже багато писали та широко висвітлювали, — він видасть таке:

З жовтня 2022 року Сполучені Штати обмежили експорт сучасних чіпів штучного інтелекту до Китаю, прагнучи уповільнити прогрес Китаю на передовій штучного інтелекту. Однак ефективність експортного контролю залежить від ступеня його дотримання, а чіпи штучного інтелекту є компактними, надзвичайно цінними та продаються через розгалужені глобальні ланцюги постачання.

Ці властивості роблять їх привабливими та зручними для контрабанди. Мережі контрабанди переправляють контрольовані графічні процесори через посередників у таких країнах, як Сінгапур, Малайзія та ОАЕ, використовуючи фіктивні компанії та підроблені документи для їх ввезення до Китаю. Оцінки масштабів значно варіюються — від десятків тисяч до, можливо, понад ста тисяч високотехнологічних чіпів на рік, і навіть найнижчі показники забезпечують обчислювальну потужність, достатню для навчання та розгортання ефективних систем штучного інтелекту.

Тим часом Бюро промисловості та безпеки, на яке покладено завдання контролювати торгівлю обсягом у сотні мільярдів доларів, працює з бюджетом та штатом, що більше підходять для набагато меншої проблеми. Таким чином, контрабанда чіпів загрожує непомітно підірвати один із центральних стовпів політики США у сфері штучного інтелекту.

Текст не такий вже й страшний, і скоріше за все цілком розумний. Проте чи так само я б сформулював подібний текст?

Ні, бо насправді Claude подав інформацію досить виборочно:

• Штучний інтелект пише, що «ефективність експортного контролю залежить від ступеня його дотримання», але що це означає? Це констатація очевидного факту. Якщо дотримуватись конкретної політики, вона працюватиме ефективно. Якщо ні, то не працюватиме. Речення немає значення.
• Claude пише, що ШІ чіпи «компактні». Це відповідає дійсності, але зазвичай контрабандою перевозяться сервери ШІ, які не є компактними. Проте, це не має значення, бо контрабанда чіпів рідко означає приховування товару від митниці. Зазвичай продукцію просто перемарковують на інший вид товару.
• Claude зазначає, що «продаж через розгалужені глобальні ланцюги постачання» робить чіпи ШІ «привабливими та зручними для контрабанди». Що це означає? Чи йдеться про те, що контрабандистам легше купувати чіпи у компаній за межами США? Чи це означає, що завдяки цьому контрабандисти, які купують велику кількість чіпів ШІ в таких країнах, як Малайзія, стають менш помітними? На мою думку, це другий варіант ближчий до істини.
• Claude пише, що оцінки масштабів контрабанди «значно варіюються — від десятків тисяч до, можливо, понад ста тисяч високотехнологічних чіпів на рік». Це буквально правда, але низькі оцінки майже напевно є помилковими, а справжня цифра, ймовірно, набагато ближча до верхньої межі, згаданої Клодом, тобто до сотень тисяч. Тож це вводить в оману. Крім того, ШІ не вказує конкретного року, але обсяги контрабанди значно коливалися з жовтня 2022 року, а також не уточнює, що таке «високотехнологічний» чіп (звучить так, ніби це розкішний товар, виготовлений вручну та продаваний виключно саудівській королівській родині та герцогам).
• Claude пише, що «навіть найнижчі показники забезпечують обчислювальну потужність, достатню для навчання та розгортання ефективних систем штучного інтелекту». Ця фраза не має інформаційної цінності. У певному сенсі навіть один чіп ШІ «має значення» для навчання та розгортання цих систем, спроможних чи ні. (І що взагалі таке «спроможна система ШІ»? Чому невелика обчислювальна потужність має більше значення для потужної системи ШІ, ніж для некомпетентної? Якщо вже на те пішло, можна було б подумати, що все навпаки — що слабша система ШІ отримає більше користі від невеликої обчислювальної потужності.)
• Claude зазначає, що Бюро промисловості та безпеки (BIS) «покликане контролювати торгівлю на суму в сотні мільярдів доларів». Тут було б набагато краще просто вказати цифру.
• Claude пише, що BIS «працює з бюджетом та штатом, що більше підходять для набагато меншої проблеми». По-перше, ми знаємо бюджет та штат BIS, тож було б краще навести ці цифри та надати їм контекст. По-друге, що означає, що проблема є «меншою»? Чи це означає, що вона менш важлива, чи що для її вирішення потрібно менше зусиль, чи щось інше? Хіба не важливіше те, що збільшення ресурсів для BIS, ймовірно, суттєво покращило б контроль за дотриманням законодавства, а не те, що обсяг ресурсів, якими BIS наразі володіє, краще підходить для вирішення якоїсь іншої проблеми?
• Останнє речення Claude про те, що контрабанда чіпів для ШІ «таким чином загрожує непомітно підірвати один із центральних стовпів політики США у сфері ШІ», — це суцільна неінформативна порожня фраза.

Пара таких неточностей в тексті не мають великого значення. Проте, за моїм досвідом, написані ШІ тексти перенасичені непотрібно розмитими та неправильними фразами. Зауважте, що ця проблема існує також тоді, коли ви надаєте ШІ багато контексту, наприклад, письмові нотатки та конспекти]

Подібно до цього, американський професор філософії Каліфорнійського університету Ерік Швіцгебель пише:

Людські експерти думають інакше та краще, ніж великі мовні моделі (LLM). Їхній вибір слів, навіть найтонший, відображає нюанси, яких вони самі можуть і не усвідомлювати. Зазвичай проза експерта буде чутливішою до питань, у яких він є фахівцем, ніж результат роботи мовної моделі. […]

вибір слів написаних експертом відображає нюанси, яких вони самі можуть і не усвідомлювати

Ви можете заперечити так: «Звісно, я читаю результати роботи великої мови (LLM) перед відправленням, і я б не надіслав електронного листа, а тим більше не подав би статтю, якби не схвалив кожне слово!» Отже, продовжується заперечення, ви справді думали ті думки, що викладені в тексті. Текст відображає ваше найкраще експертне судження — можливо, навіть щось краще за нього: ваше найкраще експертне судження в поєднанні з експертизою великої мовної моделі.

Проте, існує величезна когнітивна різниця між тим, щоб кивати головою під час читання чогось, і тим, щоб фактично продуктивно створювати текст. Дві причини: по-перше, коли текст уже на сторінці, легко пасивно задовольнитися приблизним словом, замість того щоб обмірковувати вибір слів так само ретельно й активно, як ми це робимо, створюючи прозу з нуля.

По-друге, як я вже зазначав вище, я сумніваюся, що люди, навіть експерти, мають чітке уявлення про всі фактори, які впливають на вибір слів — про все, до чого вони чутливі. Ви б сформулювали це трохи інакше, і навіть якщо ви цього не знаєте або не розумієте чому, авдиторії надсилається й сприймається інший сигнал.

Я з цим згоден. Проте насправді все набагато гірше! ШІ не лише пише тексти, що є надмірно розпливчастими, але й робить це майже максимально переконливо!

Якщо ШІ не «знає», то він напише щось беззмістовне але красиво загорнуте

Якщо ШІ не «знає» напевно того, про що ви просите його написати, він зазвичай не зупиниться і не скаже вам, що не знає; натомість він напише щось настільки розпливчасте й беззмістовне, що може здатися правдою, або щось, що звучить правдиво, але не є правдою, або не обов’язково є нею. Люди також часто помиляються й висловлюються розпливчасто, але я вважаю, що ми, як правило, помиляємося й висловлюємося розпливчасто у спосіб, який легше помітити.

Потрібно докласти чимало зусиль, щоб прочитати написаний ШІ текстІ, і виявити всі дрібні недоліки, як я це зробив раніше з текстом про контрабанду чіпів ШІ. Якби я не знав багато про контрабанду чіпів ШІ, я, ймовірно, не помітив би більшості з перелічених мною недоліків, якби не дуже ретельно проаналізував цей текст. Але якби я сам написав цей текст, я б не зміг не помітити, де я сам заплутався.

Обман читача

Коли я пишу текст, я роблю це з наміром, щоб його прочитали інші люди. Наприклад, я можу захотіти опублікувати його в Інтернеті, поділитися з колегами аби отримати відгуки, надіслати електронною поштою або відправити видавцеві.

Коли я публікую або ділюся текстом, людина, яка його читає, ймовірно, очікує, що я вклав певні роздуми в те, що написав, і, зокрема, що текст відображає мої думки. Або принаймні вона має цього очікувати, і я хочу, щоб так було. Це негласний договір між читачем і автором: читач приділяє свою увагу, а автор відплачує за це чимось цінним, наприклад, інформацією.

У тому ж епізоді подкасту Патріка Маккензі Клара Коллієр розповідає:

Можливо, я тут трохи перебільшую значення власного письма, але у версії мого тексту, яку міг би створити LLM, завжди бракуватиме чогось, що можу додати саме я. І знову ж таки, не тому, що я знаю більше: є багато сфер, у яких моделі знають значно більше за мене. Але будь-хто може будь-коли запитати Claude про що завгодно.

Якщо люди читають текст, який написала я, або який я як редакторка вирішила їм запропонувати, між нами існує певна негласна домовленість. Я пропоную їм щось, чого вони не могли б отримати деінде. Це має бути кращим використанням їхнього часу, ніж просто напряму поставити запитання моделі.

Люди очікують, що прочитати авторський текст для них краще, ніж поставити запитання моделі

Саме тому я б не використовувала текст, безпосередньо згенерований LLM. А якби й використовувала, то хотіла би дуже чітко попередити читача про те, що саме він збирається читати, ще до того, як він витратить на це свій ча

І з усіх цих причин, коли ви просуваєте текст, написаний ШІ, або надсилаєте комусь чернетку тексту, написаного ШІ, я вважаю, що ви поводитеся грубо. На мою думку, це схоже на те, ніби ви надсилаєте комусь дуже недбало написану чернетку й приховуєте той факт, що вона дійсно написана недбало.

І якщо ви чітко не позначаєте результати, створені ШІ, ви вводите в оману читача, який очікуватиме, що ваш текст є вашим текстом, ретельно продуманим і таким, що конкретно відображає ваші переконання.

Звісно, ви можете уникнути проблем з грубістю та введенням в оману, позначивши текст як написаний ШІ або «в основному написаний ШІ». Однак я підозрюю, що більшість людей не хоче цього робити.

Чи немає винятків?

Питання: Чи не можу я включати результати, створені ШІ, у текст, якщо я чітко позначу їх як такі?

Відповідь: Так, на мій погляд, це в цілому прийнятно.

Наприклад, іноді я можу провести поверхневе дослідження якоїсь теми й покластися на Claude щодо певної інформації, а потім написати щось на кшталт: «Claude Fable 5 повідомляє мені, що так-то й є». Це може бути корисно, коли немає сенсу витрачати багато часу на перевірку саме цього твердження. Головне, щоб фрагмент був чітко позначений як написаний ШІ, щоб читач міг не брати його до уваги (або навпаки) на власний розсуд.

Питання: Тоді я можу просто так робити з усім текстом, чи не так?

Відповідь: Я вважаю, що майже ніколи не варто використовувати ШІ для написання всього змістовного тексту, навіть якщо він позначений як такий. Принаймні якщо ви плануєте, що його читатимуть інші люди. Це тому, що, по-перше, результат вийде набагато гіршим, ніж якби ви написали його самостійно, а по-друге, люди (цілком справедливо) не читатимуть ваш текст, якщо ви позначите його як написаний ШІ. Я вважаю, що, ймовірно, часто помилкою є написання текстів за допомогою ШІ навіть тоді, коли єдиною людиною, яка їх читатиме, є ви самі, оскільки, роблячи це, ви втрачаєте переваги, описані у перших двох розділах вище.

Питання: Чи можу я, людина, для якої англійська не є рідною мовою і якій важко писати англійською, використовувати ШІ для написання текстів англійською?

Відповідь: Іноді існує думка, що це прийнятно, в тому числі й без розкриття цієї інформації. З усіх наведених вище причин я з цим не погоджуюся. Я вважаю, що використання ШІ для перекладу тексту, написаного рідною мовою, може бути прийнятним, але навіть у цьому випадку, на мою думку, краще про це повідомити. Загалом, ШІ краще зберігає чіткість і точність під час перекладу, ніж, скажімо, під час складання тексту на основі конспекту у вигляді пунктів.

Питання: А що, якщо ставки дуже високі і використання ШІ для прискорення необхідного написання тексту є просто дуже важливим і цінним, скажімо, для написання службових записок, пов’язаних із ШІ?

Відповідь: Я не думаю, що використання ШІ для написання текстів насправді значно прискорює мою роботу. Або, на мою думку, на практиці прискорення відбувається за рахунок зниження якості, а я не вважаю, що варто йти на компроміси щодо якості. Наприклад, Вашингтон уже потопає у звітах та інформаційних записках, які практично ніхто не читає; те, чого бракує і що справді допомагає політикам, — це більш точні та ґрунтовні аналізи важливих тем.

ШІ журналістика концепція мислення мовні моделі переклад тексти штучний інтелект

Підпишіться, щоб отримувати найкращі статті на e-mail (раз на два тижні)

Підписатися

Подивитись свіжий випуск