ИИ «убьет всех нас»: разработчик Anthropic уволился с таким предупреждением.

ИИ «убьет всех нас». Разработчик Anthropic, одной из ведущих ИИ-лабораторий, покинул свой пост, выдав прямое предупреждение о самообучающемся ИИ. Он считает, что развивающиеся модели представляют экзистенциальную угрозу для всего человечества.

Ирония в том, что инсайдеры компаний, создающих самый мощный ИИ, теперь уходят, поскольку убеждены: их собственное детище может стать неконтролируемым. Это подчеркивает фундаментальную проблему контроля над системами, которые уже слишком сложны для полного понимания даже их создателями.

Такое «бегство» изнутри ведущих лабораторий делает проблему безопасности ИИ не гипотетической угрозой, а вопросом внутренней веры в способность управлять грядущим.