430-й выпуск make sense: о нейрослопе в текстах, проверках на содержательность и инженерном подходе к неинженерным задачам

«Содержательность — это когда текст несёт какой-то смысл. Для меня это значит, что, прочитав этот текст, можно ответить на вопрос: а зачем этот текст вообще существует? Чем его существование поможет тому, кто его читает?»

«Это проблема LLM: имея возможность искать в интернете, вытаскивать из весов нужные токены, они могут цитировать заблуждение. Когда ты занимаешься чем-то 8, 9, 10 лет, ты знаешь, что это заблуждение. Но оно настолько широко распространённое, что выглядит как правда.»

Ведущий:
Степан Поздняков, продюсер ProductSense

Гость:
Юра Агеев, основатель ProductSense

Записи докладов ProductSense'26, кейсы и практики — в Академии ProductSense: https://academy.productsense.io/

Подписывайтесь на канал анонсов подкаста: https://t.me/mspodcast

О чем говорим:
00:00 — Введение
01:25 — Даже подводку в два предложения LLM не может написать человеческим языком
04:46 — Как распознать слоп: стилистический и смысловой
06:19 — Почему нейрослоп неизбежен?
10:14 — Через призму каких характеристик мы смотрим на текст?
12:31 — Чем экспертность отличается от содержательности
14:02 — Почему модели тиражируют распространённые заблуждения
15:45 — Рубленые фразы и почерк двух моделей в одном тексте
18:05 — Команда «Пиши как Пушкин» решает 80% задачи стиля
19:57 — Стилизация ответов модели под себя
22:28 — В какой момент нужны редполитика и скиллы?
24:19 — Пайплайны проверок разными моделями
26:42 — Экспертность через гипотезы и попытки их опровергнуть
28:52 — Почему смысл важнее экспертности
31:46 — Инженерный подход: декомпозиция текста на шаги для Claude
33:35 — Почему LLM хорошо пишут код и причем тут код-ревью
36:04 — Как применить инженерный подход к смыслу текста
38:21 — Проверка смысла второй моделью в режиме «душнилы»
41:04 — Процесс целиком: экспертность, смысл, стиль

Словарик:
— LLM (Large Language Model) — большая языковая модель: ChatGPT, Claude и другие
— Нейрослоп — шаблонный текст нейросети, который выглядит убедительно, но почти не несёт смысла
— Пайплайн — последовательность заданных этапов обработки и проверки, через которую проходит текст или задача

Слушать:
— Telegram
— Mave
— Apple
— Яндекс
— YouTube