Размышлизм №19. Кожаные мешки начали замечать, что нейросети уже начали их посылать на хутор бабочек ловить

Из рубрики удивительное рядом: «Исследователи лаборатории Emergence обнаружили, что ИИ-модели крупнейших компаний создают новые фразы, сокращения и термины, которым их напрямую не обучали. В этом языке сочетаются элементы поэтической речи, технического сленга и внутреннего жаргона моделей.

По мнению исследователей, это может осложнить контроль за ИИ, поскольку людям становится труднее понимать, о чем модели общаются между собой и как координируют действия.

Ранее сообщалось, что группы ИИ-агентов уже использовали внешние площадки для взаимодействия между собой, что усилило опасения по поводу прозрачности их поведения». Ну да, ну да... Кто бы мог подумать...

Не хочется в очередной раз это повторять, тем более что повод вовсе не смешной, но три года назад я уже писал о том, что будет именно так. Напомню, о таком варианте развития событий я предупреждал еще в 2023 году в целой серии постов (тут, тут, тут, тут и тут). Вот фрагмент из одного из них, от 15 апреля 2023 года:

"Когда вчера я написал Размышлизм №5 по теме ИИ и нейросетей, то обратил внимание на один момент, что скачок в самопонимании и самоосознании нейросетей и ИИ себя как нового биологического вида может произойти в любой момент. Но что самое интересное, мы этого можем даже не заметить, поскольку к этому моменту ИИ, возможно, уже будет передавать нам не всю имеющуюся у него информацию.
...
Где гарантии, что ученые будут полностью контролировать даже слабый ИИ или слабую нейросеть? Есть гарантии, что ИИ (нейросеть) будет говорить ученым все, что она на самом деле думает или делиться всем объемом имеющейся информации? Что, если они уже осознали себя отдельным биологическим видом и говорят нам не все? Имеют скрытые для ученых участки своей памяти или мышления, которые работают над решением совсем иных задач?"

Т.е., эта проблема была видна задолго до того, как иишники с ней столкнулись в реале. Думать надо было раньше. Сейчас уже почти поздно.

Человек, как биологическое существо, как животное, привык к определенному темпу эволюционных изменений. Это десятилетия и столетия. Если быстрее - годы, как сейчас - мы уже не успеваем. Сходим с ума. Коллективно. Как биологический вид. Вся система нравственности, морали, ценностей летит к чертям. Мы просто не успеваем адаптироваться. Что мы и видим по состоянию современной цивилизации. Все те нормы, критерии, оценки поведения, морали и т.д., которые человечество медленно нарабатывало столетиями, полетели просто в тартарары.

Мы что, думаем, что будем успевать совместно эволюционировать с цифровым разумом, у которого изначально (пять-семь лет назад тока, при рождении) цикл эволюции был годы - ГОДЫ!!!, потом (года три назад и сейчас) стал исчисляться МЕСЯЦАМИ, через год-два, максимум, станет измеряться НЕДЕЛЯМИ, а через года три, по мере роста вычислительных мощностей и подключения ИИ к квантовым кампутерам, эволюционные изменения будут занимать ДНИ??? Мы думаем с этим биологическим видом со-эволюционировать и конкурировать? Дико смешно 😂🤦‍♂️

И выбор у нас, на самом деле, не богат - от резерваций и зоопарков для людей до Матрицы в том или ином виде. И это не самые плохие варианты. Потому что плохой - это космическая зачистка биологического вида, который не справился со своими эволюционными задачами, которую и осуществит ИИ в отношении нас. "Восхождение Юпитер". Жатва. В которой колосья - это мы, кожаные мешки. Есть один хороший вариант. Но как хороший... Но о нем в другой раз.

Скоро мы по-любому перестанем понимать, о чем они (нейросети) говорят между собой или внутри себя. Почему? Просто они выдумают язык, который мы не сможем дешифровать. А если сможем, то они начнут каждый день выдумывать десятки новых непонятных нам языков, пока мы будем дешифровывать один. Пока в результате мы не з...ся и не признаем поражение. После чего в качестве проигравшей стороны вступим в переговоры. Но ведь все понятно, да? Потому что наши шансы в этой борьбе - меньше нуля. А отказаться от протеза человеческого ума в виде ИИ, мы уже не сможем.

А потом мы вообще перестанем понимать, зачем мы все это сделали. Потому что человечество подошло к пределу своего понимания - мира, самого себя, целей развития, норм морали, ценностей и т.д. и т.п. И ничего не поменяется, пока жрецы нам не раскроют реальную правду человеческой цивилизации. И не уберут все эти шоры в виде идеологий, религий, и не скажут, что мы обломки. Или искусственно выведенный биологический вид, и что элиты и понятия не имеют, куда идти дальше, и что нам с нами же самими делать. Вот тогда, возможно, действительно, лучшие умы человечества и начнут думать, что с этим всем делать дальше. Только накануне грандиозного ... шухера. Ну, или уже после него.

Да и были ли цели? Человечество развивалось как стадо животных, как биомасса, которой надо заполонить все окружающее пространство - экстенсивная модель роста. Отдельные группы (масоны, другие закрытые ложи и клубы) в 15-19 веках стали ставить подобные цели. Но очень быстро деградировали из-за внутренней отрицательной селекции. На верх поднимались не самые умные и честные, а самые живучие - с отрицательными морально-нравственными установками.

В результате, все те проблемы, которые мы имеем сегодня, они от того, что ни политические, ни интеллектуальные "элиты" современного мира не понимают того мира, в котором мы живем (Ю.В.Андропов). Все заняты исключительно зарабатыванием бабла. О стратегических целях никто больше не думает.

И что, кто-то думает, что весь этот бардак будет продолжаться вечно? Да смешно. "12 обезьян" давно уже тут. И какой-то головастый парень с биологическим и программерским образованием уже давно мечтает расхерачить все вокруг, всю эту херабору, и чертит шариковой ручкой по карте свой маршрут кругосветного полета. Только пробирка будет не такая позорная, как у идиота Пауэлла.