Чем страшен порой нейросетевой генереж — так это тем, что иногда очень трудно провести черту между полезным, реальным и правильным и теми глюками, которые ИИ выдает просто потому, что может.

Пара недавних историй. Первая от друзей:

Дали задачу человеку и ИИ параллельно насобирать данных о состоянии рынка. Человек собирал руками — долго, дорого, детализированно. Заказчику это не очень-то нравилось, и он попросил руководителя проверить, как справится ИИ. В ИИ загрузили задачу, дали подробные скрипты. Нейросеть немного подумала и выдала один очень красивый слайд. Там были отличная верстка, подробные описания и много-много абсолютно бредовых цифр.

Отлично, обрадовался заказчик, вот по ним маркетинговую стратегию и построим. А бредом это быть никак не может, это ж искусственный интеллект, он всегда все очень точно делает и есть не просит.

Или вот еще история с Реддит (на скрине): ИИ три месяца генерил-генерил данные о состоянии рынка, на них строили модели, принимали важные решения. А потом случайно проверили — и выяснили, что система предлагала просто цифры, которые казались вероятными. Начали копать глубже — очень, очень плохие данные. И теперь на них завязано всё. «Меня сейчас вырвет», пишет автор.

А вспомнила я об этой теме потому, что недавно стала в пинтерест искать рецепты блинов. И пока искала, провалилась в бездну ИИ-генераций, где нейросеть с очень красивыми картинками то выдает приличное, то рядом с этим приличным советует добавить в рецепт «лаже на Бкусно», что бы это ни было.

То есть, было нормально: 2 стакана муки, 2 яйца. А дальше ИИ перекинулся в трехлетку, который в эти блины решил добавить суахар эхуть и 2 стякаки молока.

Приятного аппетита нам всем, че.