Кто следит за новостями ИИшечки, тот в курсе, что периодически ученые-разработчики выдают алармистские прогнозы, как ИИ в один прекрасный день решит нас убить, и что с этим надо что-то делать.
Пару недель назад масла в огонь подлил спец из Anthropic Джейкоб Коксон, который уволился ровно с тем же мессаджем: ИИ-апокалипсис близко. Nature решил попробовать разобраться в том, насколько все то паранойя, а насколько нет - и мы бы не стали писать про это, если бы аргументы не были такими наивными:
However, they also found that carrying these out would require models to have considerable ability to physically interact with the world, and that AI's murderous efforts would almost certainly take time and be detectable by humans, who might then stop their eradication.
Еще несколько лет назад в том же Nature писали, что ИИ уже додумался до того, чтобы нанимать кожаных мешков для выполнения задач в реальном мире.
В этом же самом мире (иногда прям по соседству) живут интеллектуально одаренные особи, которые:
-идут в закладчики (и садятся через 3-4 месяца лет на 15),
-переводят деньги на безопасные счета по наущению "старшего следователя Хенпрокуратуры",
-за скромный бакшиш регают на себя симки, банковские карты, ОООшки и много чего еще,
-поджигают релейные шкафы и прочие важные объекты, что с 99% вероятностью заканчивается визитом нечутких и грубых дядь в одинаковых ботинках и отправкой в Магадан лет так на 20,
-и так далее.
Заметим, что все это:
-вовсе не уникальные особенности нашей страны, идиотов или просто конченых хватает везде,
-информация об этом есть в прессе, то есть ИИшечка вполне может начитаться и сделать выводы.
Внимание, вопрос: сколько времени ИИ потребуется, чтобы:
-найти платформы, где регистрация попроще,
-найти там условных продавцов аккаунтов или сим-карт и "легализоваться" на более защищенных от роботов ресурсах,
-или (альтернативный сценарий) просто-напросто хакнуть какой-нибудь, прости Господи, нацмес,
-научиться строить настоящие диверсионно-убийственные для человечества многоходовочки, вычислить которые "по кодовым словам в переписке" просто не получится, потому что выглядеть отдельные действия кожаных мешков будут до поры очень невинно?
Это мы параноики или Nature или там Rand слишком высокого мнения о людях?
