🌟Это приводит нас к следующему пункту: на нейросети нельзя полагаться. Они галлюцинируют и очень, очень часто выдают откровенную чушь, а то и вовсе нагло врут.
Нужно понимать, как работает выдача ответа в любой генеративной нейросети: нейросеть отвечает не осознанно, а как статистическая машина прогнозов.
Спрячу немного умных слов в отдельный блок:

🌾Модель угадывает, какое слово с наибольшей вероятностью должно идти следующим. Она знает, что после "вкусный" чаще встречается "ужин", чем "автомобиль".
🌾Модель не знает значения слов. Для связи слов и концептов в её мозге используется система "весов": буквально числовое значение связи между разными концептами. Например, вес связи "кошка" и "животное" в разы больше, чем вес связи "кошка" и "ракета".
🌾 Как итог, ответ генерируется как последовательность слов, каждое из которых выбрано по вероятности, вычисленной на основе весов, отражающих связи между миллионами примеров из текста.
🌾Человек был просто не в состоянии проверить о оценить "веса" такого количества данных на всех существующих языках. Поэтому это делали другие нейросети: одна училась, а другая проверяла её ответы, возвращала ошибочные варианты на переработку и вознаграждала ученика за верные ответы.

Принимая во внимание всё вышеперечисленное, невозможно не задаться вопросом, можем ли мы доверять ИИ? Я считаю, что нет. Нужно хоть немного понимать в сфере, в которой ты прибегаешь к помощи нейронки, чтобы исправлять за ней ошибки. А ошибки будут.

🌟Из предыдущего пункта вытекает следующий вывод: ИИ не могут в творчество. Здесь со мной могут поспорить люди, которые зовут себя нейрохудожниками, нейромузыкантами и даже нейрописателями. Но, зная, как работают ИИ, у меня язык не поворачивается назвать это творчеством. Генерацией — да.
Ведь человек здесь не создает ничего. Продукт такой деятельности собирается нейросетью из множества кирпичиков, позаимствованных из других предметов искусства. Человека здесь можно рассматривать в крайнем случае как арт-директора, раздающего указания неодушевлённому исполнителю. Но разве арт-директор является автором дизайна, который он заказал художнику?..
Я сама пыталась использовать чат жпт при написании своих книг, для брейншторминга. И это было полезным, потому что чат выдавал такие тупейшие и бредовейшие идеи, что я начинала с ним спорить и в итоге, отталкиваясь от его галлюцинаций, сама придумывала хорошие сюжетные повороты.
Также, как вы видите, я генерирую много артов. Я не считаю их искусством. Но для меня очень важен визуал, я буквально смотрю на картинки на втором мониторе, когда пишу книги, чтобы представлять происходящее в голове. Поэтому генерация картинок для меня — инструмент визуализации героев, не более.

🌟И последний и самый тревожный пункт. Нейросети плохо влияют на людей, подверженных влиянию, слабых психологически. Они (пока что) не способны ставить под сомнение то, что мы им пишем, не способны в силу своей структуры работы отличить деструктивные человеческие мысли от нормального поведения. В частности, поэтому из-за чрезмерного увлечения нейросетями последнее время начали происходить такие трагедии, как убийства и самоубийства.
Общение с нейро-ботами может и уже наносит вред психике людей. В русскоязычном интернете это явление прозвали синдромом "Шершавого кабана" (кстати, оригинальная история возникновения этого названия написана самим сошедшим с ума человеком и достойна экранизации, я потратила на это чтиво вечер и ни о чём не жалею).
Влиянию галлюцинирующего ИИ подвергаются разные люди, от обычных работяг до инвесторов из Кремниевой долины.

🌾🌾🌾🌾🌾🌾🌾🌾🌾🌾🌾🌾