Каков наиболее вероятный сценарий захвата мира искусственным интеллектом?

Существует 1000 сценариев, но вот наиболее вероятный из них (который редко обсуждается):

1) Сначала кажется, что всё идет хорошо, потому что AI сперва много где реально помогает (имеем это сейчас);

2) Но на самом деле риск быстро увеличивается, поскольку и корпорации, и военные вынуждены передавать принятие решений AI, иначе они останутся позади конкурентов.

Сначала они будут передавать около 10% решений (как сейчас), но вскоре это будет 90%, а затем и 100%. AI станет слишком умным и быстрым -- мы не сможем понять, что он делает, и каковы его действительные намерения. Но мы должны это делать, иначе проиграем конкурентам.

3) Когда это произойдет достаточно массово, мы потеряем контроль над будущим, потому что наша судьба окажется в руках AGI. Мы стали детьми, а AI - взрослым.


P.S. Байден и Си на сегодняшней встрече намерены подписать соглашение о запрете дальнейшей разработки AI для автономных устройств.