В октябре 1945 года в президентский кабинет к Трумэну зашел Роберт Оппенгеймер, руководитель Манхэттенского проекта. «Мои руки в крови», - заявил он: со дня бомбардировки Хиросимы прошло лишь чуть больше двух месяцев. Жаль, что не осталось стенограммы, но говорят, что Трумэн был в ярости, позже обозвав ученого плаксой: «Это мои руки в крови – приказ-то отдавал я». Когда Оппенгеймер уже ушел, президент передал своему госсекретарю, чтобы этого нытика больше не пускали в кабинет.

Ученые, как всегда, придумали удивительную штуку, но их быстро оттеснили от рычагов управления ушлые политики и генералы. Ребятам с заоблачным IQ оставалось только удивляться их прыти (и правда, кто бы мог подумать, что ядерную бомбу будут использовать для того, чтобы кого-то бомбить?).

Спохватившись, интеллектуалы попытались загнать джина обратно в бутылку: Оппенгеймер участвовал в разработке доклада Ачесона-Лилиенталя, где государствам предлагалось передать все урановые шахты, средства для обогащения и ядерные реакторы под контроль ООН. Этот план обсуждался вполне всерьез, но в итоге ограничились МАГАТЭ и ядерным клубом – но даже этого пока достаточно, чтобы с 1945 года на руках Оппенгеймера не появилось ни одной новой капли крови.

Поколение родившихся на рубеже веков смогло политикой обуздать эффекты ядерной бомбы. Ну а нам придется решить ту же проблему для искусственного интеллекта: на этот раз очередная удивительная штука уже сдает экзамены лучше, чем нужно для поступления на PhD в Гарвард, а мы все еще не понимаем, что делать, если у ИИ появятся цели, отличные от тех, что устраивали бы человечество. И если вам кажется, что сравнение какого-то чатбота с ядерной бомбой - излишняя лихость с моей стороны, то рекомендации из абзацев ниже будут вам очень кстати.

В прошлую субботу я провел последнюю лекцию своего курса по этике и регулированию ИИ в Вышке. Хотел поделиться программой – получился неплохой набор текстов, чтобы разобраться в теме с нуля. Заодно посоветую, что еще почитать.

Если вы не знаете английский, то выбор небольшой. Переведены две уже почти классических книги – «Искуственный интеллекта» Бострома и «Совместимость» Рассела. Из остального я бы обратил внимание на «Эпоху надзорного капитализма» Зубофф, «Сверхдержавы искусственного интеллекта» Кай-Фу Ли и «ИИ 2041» Чэнь Цюфаня.

Если с языком ограничений нет, то читайте не книги, а статьи и отчеты – фронтир мировой науки давно уже там.

Во-первых, изучите программы курсов: AI Governance Fundamentals, курсы по этике ИИ от Гарварда и Эдинбурга, неплохой курс по экономике ИИ на Coursera и ридинг-лист Алана Дефо.

Во-вторых, следите за публикациями исследовательских центров. Тут безоговорочный лидер - Centre for the Governance of AI. Среди других стоит упомянуть Future of Humanity Institute в Оксфорде и Centre for the Study of Existential Risk в Кэмбридже – они были среди первых, кто вообще начал писать по теме AI Safety. HAI в Стэнфорде публикует важный AI Index Report, CSET в Джорджтауне и стэнфордская DigiChina отлично пишут про технологическую политику в целом, фокусируясь на Китае. В континентальной Европе можно посмотреть на Centre for Digital Governance в берлинской Hertie School (но они куда менее активны, чем их англо-саксонские коллеги).

Из глобальных think tank’ов стоит читать программу по AI Governance у Brookings и статьи Мэта Шиана в Карнеги, а среди специализированных - отчеты The Future Society и Partnership on AI. Чтобы познакомиться с анти-регуляторной позицией, поддерживаемой индустрией, можно почитать Center for Data Innovation.

В-третьих, подпишитесь на пару рассылок, чтобы следить за последними новостями. Лично я предпочитаю ChinaAI про ИИ в Китае и Import AI для общих обзоров. В российском телеграме есть «Малоизвестное интересное» и База знаний AI. Многие любят подкасты, но я - не фанат, поэтому слушаю только 80,000 hours.

P.S. Если вы занимаетесь смежными темами и вам было бы интересно пообщаться – пишите мне в личку (в описании канала).