Чому 'Думай повільно, вирішуй швидко' стало складніше читати сьогодні через ШІ
Я почав читати “Thinking, Fast and Slow” Деніела Канемана десь рік тому, але відклав, бо спочатку хотілось дочитати інші зі свого списку.
Всі, хто мені її радив, розповіали наскільки це хороша книга, і справді, після першого розділу я дійсно зрозумів чому.
Та нещодавно, коли я повернувся до неї, у мене з’явилося стійке відчуття, що я не можу зосередитися, а хочеться просто прочитати її “по-діагоналі”.
Я намагався читати далі ще декілька разів, але нічого не міг із собою зробити. Просунувся ще приблизно на сотню сторінок.
Я не вважаю себе зухвалим читачем, але це трохи незвично, особливо з книжкою, яка справді сподобалася мені на початку.
Чомусь усе написане здавалося штучним і нав’язаним, і довгий час я не міг зрозуміти чому.
Та зовсім нещодавно, я налаштовував штучку-інтелект так, щоб він не використовував слоп-патерни у відповідях. І ось тут до мене дійшло. Стиль книжки дуже нагадує мені один патерн ШІ-слопу: “Це не X, це Y”.
Тоді я й знайшов термін “contrast framing”. Якщо говорити узагальнено, то я маю на увазі пояснення ідей через протиставлення концепцій.
Канеман використовує це у книзі дуже часто:
- Система 1 напротивагу Системі 2: швидке, інтуїтивне мислення проти повільного, обдуманого
- Я, яке переживає, проти Я, яке пам’ятає
- Внутрішній погляд проти зовнішнього
І насправді у цьому немає нічого поганого. Це теж одна з причин, чому книжка стала такою популярною серед широкої аудиторії. Але сьогодні цей стиль сприймається зовсім інакше.
Сучасні LLM його просто обожнюють, тому що це легкий спосіб створити відчуття ясності і довіри до написаного. Зараз ті ж конструкції постійно можна побачити в згенерованому тексті, наприклад:
«X — швидке й інтуїтивне мислення. Y — повільне й обдумане.»
або:
«Одна система реагує. Інша — рефлексує.»
По-стій-но.
Після певної кількості згенерованого тексту мій мозок почав помічати ці патерни всюди.
Тепер, коли я бачу такий текст, я автоматично намагаюся пошвидше зрозуміти основну думку й піти далі.
У стилі книги Канемана багато схожих моментів.
Він часто наводить якусь ідею, проводить експеримент, пояснює його, ще раз формулює висновки, дає явищу назву, а потім підсумовує, що саме ми маємо запам’ятати.
І для навчання це справді чудово. Але сучасний ШІ також генерує величезну кількість лайна із такою самою структурою, без особливої на те причини.
Я не хочу сказати що: "Канеман пише як ChatGPT."
Скоріше, що LLM дуже добре відтворюють такий тип письма й перебільшують його найпомітніші риси.
Для мене це створює такий дивний ретроспективний ефект.
Старі тексти стає важче читати через ШІ, і вони починають здаватися менш цікавими через це, коли бачиш ті ж самі патерни по тисячу разів на день у кожному другому пості, стає вже зовсім погано.
Автори давно використовують у текстах схожі фрази й конструкції, щоб зробити їх зрозумілішими, але LLM використовують їх настільки часто, що вони починають втрачати свою цінність.
Генеративний ШІ може змінити те, як ми сприймаємо текст, що з’явився задовго до самого генеративного ШІ.
А сама книжка дійсно чудова.
Поєднання експериментів, автобіографічного контексту та того, як Канеман пов’язує між собою ідеї справді унікальне, і згенерованому контенту до цього далеко.
Інтернет зараз настільки переповнений ШІ-слопом, що мій мозок автоматично реагує на ті ж стилістичні патерни.
І мені здається, що це ставатиме дедалі поширенішим: люди читатимуть старі роботи й думатимуть: “Окей, це виглядає як слоп”, просто тому, що ШІ використовує той самий стиль.
Саме у випадку з “Thinking, Fast and Slow” це насправді досить іронічно. Моя реакція сама по собі схожа на приклади із книжки Канемана.
Система 1 розпізнає патерн і одразу видає відчуття: “ШІ-слоп”.
І це відчуття виникає ще до того, як я встигаю задуматись, чи був цей текст написаний у 2011-му, у 1980-му чи вчора.