Помните, весной Вастрик, Павел и Игорь Котенков написали пост про проблему безопасности искусственного интеллекта (а еще там было несколько статей про историю и текущий статус GPT-моделей)?

Примерно в то же время я начал писать свой большой пост на похожую тему, и сейчас хочу с любезного разрешения Павла вам его представить.

В нем я подробно и с разных сторон разбираю, в чем вообще проблема с ИИ, к чему и как это может привести, где мы находимся сейчас, куда движемся, и куда хотели бы двигаться. Скорее всего, даже если вы что-то читали на эту тему, вы сможете узнать много нового. Ну хотя бы о том, почему Скайнет, Архитектор Матрицы и Электроник - абсолютно нереалистичные персонажи; но почему при этом действительно крутые специалисты в ML, заявляющие, что с ИИ всё будет в порядке, скорее всего не правы.

При этом задумка текста такова, что он рассчитан на очень широкий круг читателей. Этому служит экспериментальный формат, в котором написан пост - не плоским текстом, а в виде древовидной структуры на вложенных списках. Предполагается, что это сделает его удобным для восприятия как для читателей, только знакомящихся с темой, так и для неплохо ориентирующихся в тех или иных ее аспектах. А именно - если для вас и так очевиден какой-то из разбираемых вопросов, то вам не придется пролистывать соответствующий кусок, и искать, где там продолжается новая мысль - вы просто не будете разворачивать соответствующую ветвь дерева и перейдете к следующей.

Вот основная ссылка на текст в Notion:
Искусственный интеллект и экзистенциальные риски
А вот более красивая ссылка (но, с менее, на мой вкус, приятными шрифтами):
https://aisafety.super.site

Буду рад вопросам, замечаниям и комментариям по поводу текста, и постараюсь в будущем на их основе этот самый текст улучшить и доработать.