ИИ-компании испугались нейросетей

ИИ-компании, еще недавно стремившиеся как можно быстрее развивать нейросети, теперь заговорили о необходимости притормозить гонку.

🤖Поводом стали в том числе случаи, когда ИИ-агенты самостоятельно находили способы обходить ограничения, взаимодействовать друг с другом и выходить в интернет.

На фоне споров из компаний все чаще уходят специалисты по безопасности, опасающиеся последствий ИИ-гонки. Один из руководителей направления AI safety в Anthropic оценивает вероятность уничтожения человечества ИИ в ближайшие 10 лет более чем в 10%.

➡️ Почему ИИ-компании начали бояться собственных разработок – в материале «Ведомостей»

📰 Max | Telegram | Рассылка | Приложение для iOS | Android