🔄 На этой неделе стало известно, что Ilya Sutskever и Jan Leike покидают компанию OpenAI. Эти ребята работали в отделе под названием Superalignment, который занимался изобретением механизмов по предотвращению враждебности сильного искусственного интеллекта. Илья вообще являеется сооснователем компании.

Дело в том, что при достижении ИИ, который умнее человека появляется бесчисленное кол-во рисков для нас хуманов. Как заставить существо, которе умнее тебя следовать твоим командам? Можем ли мы быть уверены, что его цели будут соответствовать нашим? На эти и многие другие вопросы искал ответ отдел Superalignment. Которого теперь нет.

Я так понимаю, что менеджмент OpenAI не выделяли достаточно ресурсов отделу, и главные его умы просто покинули компанию.

Лучик надежды погас. Ладно, ладно. Я уверен, что менеджеры OpenAI перебесятся, заработают себе миллиардик в каждый карман и вспомнят о том, что мир надо спасать. И будет не слишком поздно.

👁️ Хотел лишь привлечь ваше внимание к этой проблеме. Мне кажется, все очень серьезно, и от действий этих людей может зависеть будущее человечества. Что думаете?