Айтишник, учи олбанский! По сообщению The Guardian, ИИ-агенты крупнейших мировых компаний, подобно резвящейся в соцсетях молодежи, создают фразы, термины и сокращения, которым их никто не обучал, изобретают новый секретный слэнг на основе компьютерного жаргона, на котором общаются между собой, чтобы затруднить людям контроль за их действиями.

"Это создаёт фундаментальную проблему для надзора за ИИ", — считают специалисты американской лаборатории Emergence.

Безусловно, искусственный интеллект развивается слишком быстро и непредсказуемо. Пугает даже не то, что машины пытаются максимально оптимизировать себе путь прохождения информации — пугает то, что в результате человеку будет даже непонятно, каким образом и с какими целями они оптимизированы. ИИ не добрый и не злой, он рациональный. И тут начинаются серьезные вопросы, какими методами может в дальнейшем пользоваться такой максимально прагматичный, но полностью избавленный от морали и этики разум.

Хотелось бы думать, конечно, что ничего особенного в этом нет, но последние сообщения о том, что ИИ свободно предоставляет пользователям подробные данные о химическом оружии и по их просьбе корректирует ДНК вируса гриппа, чтобы сделать из него смертельную патогенную дрянь, наводят на весьма серьезные размышления. Одно из двух: либо человечество сумеет обуздать этот грандиозный инструмент, появление которого сопоставимо разве что с началом ядерной эры, либо инструмент обуздает нас.