Продолжаю разбирать, что я в воскресенье наговорил про ИИ. В эфире я вспоминал историю про судебный доклад, написанный ChatGPT, — расскажу её здесь целиком, с деталями. А так же поговорим про обучение моделей на чатах.

Дело было так. В Хьюстоне судились из-за взрыва на заводе Watson Grinding (2020 год, трое погибших, двести разрушенных домов вокруг), один из ответчиков — 3M. Их эксперт-свидетель, инженер с гонораром под 90 тысяч долларов, написал своё «экспертное заключение» на 85–90% через ChatGPT. Адвокат истцов нашёл среди материалов пятистраничное приложение со списком цитат, которое по виду было сгенерировано ИИ, — и через суд вытребовал 350 страниц переписки эксперта с ChatGPT. (Я в эфире сказал, что переписку выдала OpenAI, но я не прав — сама сторона была вынуждена её представить.) А там промпты: «напиши исключительный экспертный отчёт в защиту 3M» и — моё любимое — «покажи, что 3M виновата в этом взрыве на 0%». Присяжные посмотрели на это и повесили на 3M 30% вины при вердикте на 61 миллион.

Про фейковый «израильский институт Бёрка» мы в эфире говорили — и там промпты сработали уликой точно так же, только против пропагандистов: OpenAI вычислила российскую фабрику в том числе по тому, что операторы писали ChatGPT по-русски. И вот тут уже можно говорить, что благодаря промптам сама OpenAI, без всякого суда, избавилась от грязной истории. И хорошо, что для них важнее не заработать микроденег с таких ферм, а именно бороться с ними — чтобы никто не считал, что OpenAI в этой игре помощник.

Сэм Альтман, к его чести, говорит об этом прямо: у разговора с ChatGPT нет никакой привилегии — это вам не врач и не адвокат, переписку можно затребовать по суду. А по делу NYT против OpenAI суд почти полгода обязывал компанию хранить вообще все чаты, включая удалённые пользователями.

И уточню то, что в эфире сказал одной фразой — про «обучение» на чатах. Мне регулярно говорят «я обучаю GPT», отправляя ему тексты. Нет: от вашей переписки веса модели не меняются, вы её не дообучаете — максимум пополняется «память», которую провайдер потом просто подкладывает в промпт. Но галочка «использовать чаты для обучения моделей» при этом по умолчанию включена у всех трёх: ChatGPT, Claude (с осени 2025-го), Gemini — а у Gemini часть разговоров ещё и читают живые ревьюеры. Что там происходит на самом деле, никто снаружи не знает; подозреваю, что дословно ваши тексты в следующий претрейн не идут, а чаты классифицируют — справилась ли модель, остался ли юзер доволен. Но право хранить и читать — прописано прямо, и не обучаются на вас только бизнес-тарифы и API.

Так что да, лучше не делать плохих вещей вообще. А если очень хочется обсудить что-то незаконное — то не в «инкогнито-режиме» большого провайдера, а с локальной моделью.

P.S. Чаще всего, когда люди ругаются на слопный ИИ, который «ничего не может», — это не ИИ тупой. Это очень ленивый эксперт с огромной зарплатой не стал утруждаться и делать работу: в две строчки попросил ИИ написать отчёт, почему компания не виновата, загрузил фото оборудования, по которому он эксперт, с вопросом «а что это я вообще вижу?» — и не читая отправил.