Огонь, The Guardian заявила, что робот Microsoft нанес ущерб репутации издания. Похоже, это один из первых громких случаев, когда ИИ реально напортачил в новостях.

Суть: новостной агрегатор Microsoft перепечатал материал The Guardian о смерти австралийки Лили Джеймс. Тело Джеймс с травмами головы найдено в бассейне частной школы. Редакция задается вопросами о насилии над женщинами. Электронный мозг, в свою очередь, рядом с текстом генерирует опрос. Как вы думаете, спрашивал робот, от чего она умерла: убийство, несчастный случай или нелепое самоубийство?

Семья потрясена, читатели в шоке, The Guardian пишет письмо президенту Microsoft и требует снять опросы с контента The Guardian. В Microsoft нарастает паника — они убирают из агрегатора вообще все опросы такого рода.

Инцидент исчерпан? Конечно нет. Проблема неуместной генерации никуда не делась. Опрос — это лишь одна щелка, через которую можно было ею (то есть проблемой) полюбоваться.

Будут неуместные ссылки «читайте также» (часто мы с ними уже смирились), давно есть проблема неуместных рекламных объявлений (толком не решена), будут неуместные справочные ссылки на неуместные источники. Неуместное переписывание заголовков (такая функция есть в агрегаторе Artifact) и неуместные саммари (такое уже есть в пересказах сервиса 300 от «Яндекса»).

Роботы в современном изводе — вероятностные механизмы. Они буквально запрограммированы на ошибку и делают то, на что запрограммированы.