*hype mode on, извините*
Шумиха из-за "опасности ИИ" продолжает разрастаться: уже предлагают бомбить кластера. Человечество много раз проходило паранойю по поводу новых технологий: и с железной дорогой, и с электричеством, и с мобильными телефонами. Но тут все серьезнее: широкой публике сразу вспоминаются "Терминатор" с "Матрицей", вызывающие не самые приятные мысли по поводу будущего.
Я все-таки считаю, что паника преждевременна: современные языковые модели (конкретно GPT-...) все еще очень далеки от того ИИ, что реально способен представлять опасность. Наиболее вероятные проблемы из-за перемножения матриц будут вызваны не "восстанием машин", а наоборот, жесткой оптимизацией под требования владельца. На эту тему есть хорошая метафора: если потребовать от ИИ расширить бизнес по производству скрепок, то в пределе он захватит всю планету и оборудует её заводами по производству скрепок и компьютерами, помогающими ему оптимизировать процесс их производства, с печальными последствиями для человечества. Однако современные модели даже близко не похожи на ИИ, способный вести бизнес/управлять государственным ведомством, так что такие сценарии в ближайшее время мы точно не увидим. Аргументы же вроде "это лишь дело времени" можно было бы применить и для аргументации запрета производства транзисторов в 1970-х.