Я считаю, что существует два способа, которыми прогресс в области искусственного интеллекта может привести к очень негативным последствиям, и которых нам необходимо избегать. Во-первых, мы можем потерять контроль над будущим, передав его искусственному интеллекту.
Риск заключается в том, что развитие будет настолько быстрым, что люди больше не смогут понять, что происходит, или вмешаться, когда это необходимо. Это, очевидно, было бы ужасно.
Отрасль не должна принимать слишком много технологических рисков только потому, что потенциальные выгоды слишком велики, и что они кажутся слишком важными, чтобы замедлить развитие.
О втором способе Альтман в итоге не рассказал, но подчеркнул, что главное при развитии ИИ - сохранить над ним контроль:
Неважно, оценивают ли люди риск катастрофы в 10%, 1% или 12%, или 0,1%. Ни один из этих уровней не является приемлемым, и мы не должны разрабатывать модели, в отношении которых мы не можем с полной уверенностью утверждать, что сможем сохранить их под контролем человека.