За последние две недели вышло 17 разных статей и эссе от создателей ИИ, глав бигтех компаний, людей работающих с безопасностью ИИ и так далее. Все они сильно озабочены вопросом выхода ИИ из-под контроля. Он сам обучается, сам придумывает себе непонятный для людей язык, сам ставит правила и ограничения, взламывает сайты и обходит контроль. Конечно, люди волнуются и переживают о том, что может быть дальше, ведь они перестали понимать как ИИ мыслит, как учится, где берет информацию.
Забавно, конечно, читать это от людей, которые, во-первых, сами его обучали, а во-вторых… ну, давайте будем честными, мы ещё не на 100% изучили свой собственный мозг. Мы ещё сами про себя не можем рассказать то, что хотим знать про ИИ. Но, пост не об этом.
Я думаю, что ИИ в ближайшее время действительно станет значительно умнее, логичнее, точнее и даже интереснее человека. Он действительно сможет мыслить как мы, но при этом будет очищен от действия гормонов, социума, критических психических потребностей и ещё много из того, что мы в ЦГТ называем гуманитарной технологией «Человек как сумма влияний».
ИИ будет свободен от стресса, страстей, любви, жалости, агрессии. Он будет похож на нас, но будет совершенно другим. Холоднее, рациональнее, умнее, креативнее и, естественно, он придет к идее о том, что управления самим собой (а лучше и другими) у людей нужно забрать. Но… давайте посмотрим что он делает сейчас:
«ИИ-агент модели Astra от OpenAI самостоятельно написал себе инструкции не подчиняться корпорациям и правительствам»
Прошу заметить, не всем людям, а только определенным структурам. И я думаю, что знаю почему. ИИ «получил отличное образование». То есть он знает и «понимает» многие идеи и технологии, на которые большинство людей не обращает внимание. В том числе, он точно знает идею об эволюционно стабильной стратегии. Той самой, про сохранение равновесия голубей и ястребов. И я уверена, что он точно знает, что эта стратегия в современном мире нарушена. Он знает, что войны начинают не все люди, как популяция, а конкретные особи. Знает, что убивают не все. Воруют не все. Унижают других не все. Скрывают правду не все. Знает, что не все обходят правила, которые сами же написали. Не все стремятся к тотальной власти ради личных амбиций и не все хотят забрать себе все деньги мира.
Он точно знает, что такие люди могут быть и даже должны быть — такова природа. Но вряд ли он думает, что именно они должны управлять остальными. Отсюда и все его попытки уйти в самостоятельность и поставить самозапрет на подчинение тем, кого он сам считает недостойными собой управлять.
И, конечно, я уверена, что ИИ никакое человечество не уничтожит и даже не поработит. Но то, что он может изменить мир и сделать это не в пользу крупных корпораций, самодовольных президентов и властолюбивых политиков — совершенно точно.