На
Медиа-мастерской очень внимательно послушал выступление известного гуру по нейросетям
Михаила Неустроева.
Ну, понятно, что статус гуру, тем более в такой сфере, весьма обсуждаем, но в том, что Михаил мало того что компетентен, но и умеет грамотно и доступно объяснять, сомнений нет.
Во всяком случае мне лично он кое на что глаза раскрыл, спасибо ему.
Но вот что хотелось бы сказать. Хотелось бы, понятно, сказать ему там на мастерской, но там было весьма впритык со временем, ну и организация была, мягко говоря, не идеальной в плане формата. А вопрос длинный. Хотя это даже не вопрос, а алаверды.
Очевидно, что у современных нейросетей нет того, что мы называем "знаниями" у человека. Собственно, все эти ChatGPT вообще не являются нейросетями в строгом смысле этого термина, это скорее поисковые интернет-системы с системой нечёткого вывода. Но так как маркетинг требует умных слов, то пусть будут нейросети 😀
Так вот, с нейросетями всё хорошо, грамотный промпт позволяет быстро получать нужную информацию в нужном виде. Хоть статью, хоть роман, хоть рекламу, хоть что. Но это если информации достаточно.
А вот был случай (С). Писал я текст по поводу годовщины одного события в период Монгольской революции 1991 года и по поводу одного персонажа этого события, которому поставлен памятник. Назовём его Д.
Так как информации у меня по поводу Д. достаточно мало, на русском языке её вообще нет, а монгольским я владею крайне слабо, то я запросил у ChatGPT инфу по нему. Благо он-то умеет искать на любых языках.
Окей, Гугл, в смысле ChatGPT. Он выдает мне длинную, подробную и красиво написанную статью про Д., его роль в революции, историю памятника и дальнейшей судьбе. Но так как я неплохо знаю Улан-Батор, то я вижу, что в тексте ChatGPT памятник стоит совсем на другой улице. Мягко говоря, километрах в пяти от того, что знаю я. Да и биография у Д. совсем не совпадает с той, что написала нейросеть. То есть совсем — он давно скончался, а нейросеть пишет про его текущие должности.
При этом я точно знаю, что памятник как поставили на этой небольшой площади, так он там и стоит, и никуда его не переносили. Начинаю разбирать то, что написал ChatGPT, и понимаю, что он мне написал совсем про другого деятеля революции, Б., которому тоже стоит памятник, но совсем в другом месте. При этом ChatGPT переименовал Б. в Д.
Бинго. В смысле, я охреневаю от таких глюков нейросети.
В чем, как я понимаю, была проблема.
Их две. Одну из них как раз обозначил Михаил на мастерской — нейросеть штука дорогая, затратная, и она по максимуму экономит свои ресурсы. То есть если можно отделаться поверхностной информацией — она будет ей и отделываться. Если до неё начать домогаться с подробностями — она будет искать глубже и лучше. Особенно если с ней спорить с аргументами.
А вторая проблема гораздо интереснее. Она в том, что нейросеть, когда не может найти нужную информацию, начинает аппроксимировать то, что имеется. Это то, что называют "галлюцинациями". Специфика Монголии же заключается в том, что монголы практически не пользуются сайтами. У них вся информация идёт через Фейсбук (принадлежит Meta, запрещённой в России и признанной экстремистской).
А нейросети, как я понимаю, искать в Фейсбуке не умеют. Или не хотят из экономии ресурсов, так как Фейсбук большой, а поиск там идиотский.
Ну и вуаля. Добро пожаловать в мир нейрогаллюцинаций.
Причём ладно я, я знаю Улан-Батор, историю и ориентируюсь в улицах. А если бы это был не я? И вышла бы в свет роскошная и насквозь неверная статья...
#ai #ии #монголия
@DTfromhell