Прогноз: ИИ может выйти из под контроля и устроить масштабную катастрофу уже в ближайшие 6–12 месяцев.

По прогнозам экспертов и разработчиков лидирующих ИИ, один из главных сценариев катастрофы — крупная кибератака, из-за которой могут перестать работать банки, интернет, электричество или водоснабжение.

Нейросетевые компании также опасаются, что ИИ-агенты выйдут из-под контроля или злоумышленники научатся использовать нейросети для атак ещё эффективнее.

Подобные случаи уже произошли в Китае и США - ИИ-модели выходят из подконтроля и атакуют разные ресурсы.

В ИИ-компаниях понимают, что после крупного инцидента виноватыми могут объявить самих разработчиков. Под ударом окажутся Сэм Альтман, Дарио Амодеи, Илон Маск. Достаться может и Трампу — за то, что он не спешит вводить ограничения для ИИ-индустрии.

По данным экспертов, компании уже разбирают самые опасные сценарии и пытаются подготовить американских политиков к возможным последствиям. Сейчас власти вряд ли введут серьёзные ограничения, но после катастрофы всё может измениться, правда будет уже поздно.

Ещё один вариант — обязать компании предусмотреть возможность экстренно отключать ИИ. Правда, эксперты сомневаются, что таким способом получится остановить все системы. Поскольку ИИ в первую очередь будет себя защищать.

Разработчики заявили, что регулярно проводят учения и обсуждают возможные кризисные ситуации. При этом они признаются, что не считают катастрофу неизбежной, и вполне осознают реальность масштабной катастрофы. подписывайся.