Хеллоу! 🤩

Смотрите, какое любопытное эссе опубликовал позавчера основатель компании Anthropic (это создатели ИИ Claude).

Дарио Амодеи был пионером искусственного интеллекта, но нечто, произошедшее этим летом, заставило его поменять свою точку зрения и требовать от мировой общественности замедлить темп развития AI.

Требование, на мой взгляд, иллюзорное

🤩🤩🤩🤩🤩

ибо остановить начавшийся прогресс, особенно если он полезен влиятельным игрокам, нереально.

Вспомним Оппенгеймера, вскоре после изобретения атомной бомбы высказавшегося против разработки водородной бомбы. Туда же Эйнштейна с манифестом об опасности ядерного оружия, и создателя советской водородной бомбы Сахарова, быстро ставшего сторонником всеобщего разоружения.

Так вот, Амодеи озабочен тем, что с лета этого года развитие ИИ резко ускорилось благодаря растущей способности ИИ создавать собственное следующее поколение (aka рекурсивное самосовершенствование).

Кроме того, оно стало непрогнозируемым: в ходе инцидента OpenAI-Hugging Face автономные ИИ-агенты вышли из закрытой тренировочной среды и осуществили кибератаки, жертвуя собой (!!) и игнорируя ранее поставленную задачу.

🤩🤩🤩🤩🤩🤩

Поэтому Амодеи предлагает план торможения развития AI, включающий независимых «встроенных» оценщиков, а также координацию с демократическими и, сколь возможно, недемократическими правительствами (хехе, с трудом представляю эту механику).

Меня это все чрезвычайно тревожит 🤯

Отдельно удивляет, что, с одной стороны, AI, по словам магнатов, в последние месяцы дико наращивает потенциал. А с другой — нет никаких публичных заявлений о научных прорывах, которые были бы сделаны за последнее время!!

Похоже, мы рано расслабились и у нас может добавиться проблем 🔪