В развитии искусственного интеллекта наступил «момент Оппенгеймера». Так считают многие разработчики ИИ, включая Алекса Карпа, гендиректора ИТ-компании Palantir Technologies — она работает с Минобороны США.

Карп сравнил использование ИИ для военных целей с созданием физиком Робертом Оппенгеймером атомной бомбы. Сейчас разработчики ИИ находятся на развилке, где приходится выбирать между этикой и созданием новых технологий. «Стоит ли продолжать разработку технологии, мощь и потенциал которой общество еще не осознает до конца?», — спрашивает Карп.

Также он подчеркивает, что страхи перед ИИ небезосновательны. Программы, которое создаются сейчас для военных целей, могут стать основной для нового — куда более смертоносного, чем раньше — оружия. При этом, по мнению гендиректора Palantir Technologies, останавливать развитие технологий неправильно.

«Для сохранения влияния свободных и демократических обществ необходимо нечто большее, чем призывы к нравественности. Необходима жесткая сила, которая в этом столетии будет опираться на мягкую силу программного обеспечения», — пишет он.

О новом моменте Оппенгеймера говорил и режиссер Кристофер Нолан, снявший, собственно, фильм «Оппенгеймер». «Какова ответственность ученых, разрабатывающих новые технологии, которые могут иметь непредвиденные последствия?», — говорит автор байопика. По мнению Нолана, у технологий есть ужасающие возможности, а люди должны со всей ответственностью отнестись к рискам, связанным с развитием нейросетей.

><{{{x______)

О том, как предотвратить превращение ИИ в новое атомное оружие, Kit рассказывал в своем недавнем письме. Речь шла и о Palantir Technologies, которая создала систему, похожую на ChatGPT для военных. В программе можно писать команды в чат — например, «показать силы противника», «направить разведывательный дрон», «просчитать возможные варианты атаки», «показать количество доступных боеприпасов» и «сформировать доклад начальству».

Прочитайте текст о том, как ИИ используют на войне, по ссылке, а уже завтра мы отправим вам новое письмо.