Калифорнийские заметки. Часть 2: Broken Robot Heart — последнее выступление Сэма Альтмана

Привет! Это Павел Белов из Hi, AI! — продолжаю Калифорнийские заметки.

Вечер, 16 ноября, Окленд (рядом с Сан-Франциско). Выступает Сэм Альтман, на тот момент CEO OpenAI. Все билеты на выступление разобрали за 6 минут 🤯

Незадолго до начала мне очень повезло: друзья подарили заветный билет. Прыгаю в машину — лечу в Окленд (надо сказать, что расстояния в Кремниевой долине больше чем кажутся) — успеваю только-только.

Все проходит в арт-пространстве Robot Heart. Это объединение предпринимателей, художников, мечтателей, которые развивают цифровое искусство. Основная их площадка — знаменитый фестиваль Burning Man. А в остальное время они проводят необычные мероприятия как это. Фотографии под постом лучше слов передадут атмосферу.

Дискуссию «AI и будущее искусства» с Сэмом ведет диджитал-художник Андроид Джонс. Речь идет о том, как AI влияет на искусство, про творчество людей и машин, про AGI и то, что вообще такое сознание. Мой пересказ:

Джонс: За год нейросети создали 15,9 млрд изображений — это очень много. Люди-художники чувствуют конкуренцию и боятся нового. Появилось что-то, без их ведома, что так быстро растет и влияет на их мир.

Самое важное для художника — его комьюнити, поддержка и внимание аудитории. Теперь приходится бороться за внимание с AI, особенно начинающим.

Сэм: Связи между людьми не ослабнут с развитием AI, наоборот. Не стоит недооценивать людей. Мы всегда найдем способ удивлять и придумывать новое. Ты можешь своими работами вдохновить AI создать что-то невероятное, это же круто.

Джонс: Как насчет списать все образовательные кредиты художникам за то, что они помогли натренировать AI? 😁

Сэм: Конечно, AI должен быть обучен этично и легально. Иначе это система, которая пожирает сама себя.

Следующий большой шаг в развитии AI — научиться создавать чистое новое знание, недоступное людям. Нам нужны лучшие технологии, вылечить болезни, предотвратить климатическую катастрофу; человечеству нужна помощь — AI сможет помочь.

Джонс: Звучит, как будто ты хочешь создать Бога-раба. Это и будет AGI?

Сэм: Не люблю название AGI, каждый под этим понимает что-то свое. Это как пытаться определить сознание. Возможно, AI сдаст тест на сознание, когда начнет создавать что-то новое, потому что ему это нравится.

Как подготовиться к этому? Мы много об этом думали и не нашли способ лучше, чем отдать технологию в руки людей в раннем, несовершенном виде. Мы слушаем все мнения, улучшаем и создаем вместе.

Broken Hearts 💔

На следующее утро, неожиданно для всех, вышла новость, что Сэм Альтман уволен из OpenAI. Судя по комментариям, на момент выступления на Robot Heart Сэм уже знал о готовящемся увольнении. Задним числом хочется написать, что он выглядел задумчиво и мыслями был в другом месте. Но это будет не совсем правдой. Я бы не подумал об этом, если бы не последующие события. Только уехал он сразу же после выступления, не задержавшись ни на секунду.

Когда я начал писать этот пост, общее настроение в Долине можно было описать как грустное удивление. Но сейчас, на фоне слухов о возможном возвращении, — это скорее предвкушение happy end. Сэма здесь любят. Хочется поблагодарить его за работу, изменившую мир. Ждем новый невероятный проект.

P.S. … или возвращения в OpenAI 🤖