ИИ как посредник: от переговоров до госпереворотов

Аналитический центр Forethought представил шесть подробных сценариев, как ИИ-системы могут кардинально улучшить координацию между людьми, организациями и даже государствами. Они предлагают решения от автоматических переговоров до конфиденциального мониторинга сделок, которые сейчас невозможны из-за высоких издержек или недоверия.

Ирония в том, что эти технологии, способные предотвратить войны и увеличить экономическую продуктивность, также могут быть использованы для сговоров между корпорациями, преступных схем и даже подготовки госпереворотов. Разработчики называют это «защитной координацией», требуя особой осторожности при внедрении. Стоимость создания таких систем высока, но риски без них еще больше.

Вопрос не в том, появится ли такая технология, а в том, как именно будет спроектирована ее архитектура, чтобы она не стала оружием в руках немногих.