На выходных с друзьями сделали небольшие зум-дебаты на тему того как ИИ влияет на мир и человечество. Ниже список самых интересных тезисов, на которых мы сошлись и согласились.

AI может сделать интеллект доступным всем, а власть сконцентрировать у единиц. Открытая модель не даёт тебе электростанцию, датацентр и возможность занять $100 млрд. Если интеллектуальную работу можно масштабировать вычислениями, главным преимуществом становится доступ к капиталу. Получается довольно странный мир: умнее становятся все, но больше всего выигрывают владельцы инфраструктуры, на которой этот интеллект работает.

Можно быть оптимистом относительно будущего и одновременно сильно переживать за ближайшие годы. Это вообще не противоречие. Мир, в котором машины выполняют почти всю работу, может быть прекрасным. Но переход к нему за три года и за тридцать лет - два совершенно разных сценария. В одном меняются поколения и институты, в другом люди теряют доход быстрее, чем общество успевает придумать, как теперь жить. Спор во многом не про конечную точку, а про скорость.

Персональный AI стоит настраивать не только под то, какой ты сейчас, но и под то, каким хочешь стать. Это разные задачи. Модель может прекрасно знать твои привычки и помогать тебе оставаться ровно таким же, только эффективнее. Гораздо интереснее агент, которому ты сформулировал свои ценности и разрешил замечать, когда поступаешь им вопреки. Для этого сначала придётся самому ответить на вопрос, чего ты вообще хочешь.

Изобилие не отменяет борьбу за статус. Человеку может быть мало еды, жилья и свободного времени. Он хочет быть нужным, влиятельным, успешнее других. Поэтому «роботы всё произведут, а людям раздадим деньги» отвечает только на часть вопроса. Если интеллект перестанет давать преимущество, на чём будут строить свою жизнь люди, которые всю жизнь рассчитывали именно на него?