Идеальный лжец. ИИ наврал в книге о правде

Американский писатель Стивен Розенбаум четыре года работал над книгой о том, как искусственный интеллект размывает границу между правдой и вымыслом. А когда издание вышло из печати, выяснилось, что нейросеть провела самого автора. В тексте обнаружили 26 недостоверных цитат, хотя рукопись прошла пять раундов редактуры.

Начиналось все прекрасно. Книга «Будущее правды» вышла в мае и получила первые положительные отзывы. Но вскоре Розенбауму позвонил журналист The New York Times с просьбой уточнить источник одной из цитат. Писатель полез в свои материалы, но так и не смог найти подтверждения, что человек, которого он цитировал, действительно говорил эти слова.

Журналист продолжил проверку и обнаружил еще одну кривую цитату, на этот раз известной журналистки Кары Суишер. Спустя два дня история попала на первую полосу The New York Times, и разразился скандал. Еще бы, автор книги о том, как ИИ подрывает доверие к информации, сам попался на недостоверном цитировании.

В интернете посыпались насмешки, выступления Розенбаума начали отменять. Писатель недоумевал. Он ведь действительно написал книгу самостоятельно, провел десятки интервью и собрал более 400 источников.

Но черт, как известно, скрывается в деталях. Автор полагался на ИИ, когда разбирал черновые материалы и редактировал текст. Именно здесь и произошли «чудовищные ошибки». Нейросеть подменяла настоящие цитаты выдуманными, причем делала это настолько ловко, что подлог никто не заметил.

Обычно цифрового врунишку выдают ссылки на несуществующие исследования, выдуманные адреса страниц или неверные идентификаторы научных статей. Но в случае с Розенбаумом нейросеть втирала очки куда искуснее. Она так «красиво» подправила прямую речь, что совершенно исказила смысл, но все выглядело вполне достоверно.

Впрочем, горький опыт не заставил Розенбаума отказаться от нейросетей. Он продолжил ими пользоваться, но теперь привлек к работе сразу двух фактчекеров. 6 октября вышло исправленное издание, в котором появилась «политая потом и кровью» новая глава о галлюцинациях ИИ.

#debug