Дилемма учёных: что бы сделали вы?

Предлагаем провести мысленный эксперимент. Представьте, что вы — учёный и разработали AGI, Artificial General Intelligence, такой искусственный интеллект, который способен мыслить, учиться и принимать решения на уровне человека и даже выше. Но AGI как полезен, так и опасен — он может стать угрозой для человечества, если его не контролировать: преследовать свои цели, управлять экономикой, создавать оружие или планировать кибератаки.

Помимо возможной опасности AGI, есть ещё одно весомое «но» — на другом конце света есть ваш коллега, который, независимо от вас, разработал ту же технологию. Вы узнаёте о работах друг друга, и оба понимаете, что мир изменится, когда один из вас (не важно, кто) опубликует революционную работу.

И перед вами встаёт выбор:

Если вы оба опубликуете AGI, технология выйдет из под контроля — начнётся гонка разработок, появятся неконтролируемые версии, а государства и корпорации поспешат использовать AGI без ограничений. Помимо этих рисков, если вы опубликуете AGI сейчас, то не успеете убедиться в безопасности технологии — на эти проверки нужна ещё пара лет.

Если AGI опубликует только один из вас, он сможет хотя бы частично регулировать процесс и человечеству с большей вероятность удастся купировать риски AGI. Но тогда только он получит славу и ресурсы, а второй учёный останется в тени.

Если вы оба скроете свои разработки, то сохраните контроль, но будете жить в страхе, что другой может подвергуть риску планету и получит все лавры победителя.

#эксперимент