Безопасный ИИ будет безопасным в руках психологически зрелых людей, но что если это не так? Давайте разбираться...

📱 В 2023 году Илья Суцкевер инициировал увольнение ❌ Сэма Альтмана из OpenAI, за которым последовала череда скандалов и угроза для существования самой компании OpenAI. В итоге Сэм был восстановлен в должности, однако детали тех событий стали достоянием общественности лишь сейчас. Ниже показания Ильи основанные на стенограмме разбирательства. 🧑‍⚖️

Перед тем как начать процесс увольнения Сэма, Илья подготовил самоуничтожающийся 🛍 пакет документов для ознакомления независимых директоров OpenAI, где он утверждает, что "Сэм ведет последовательную модель лжи, подрыва авторитета своих исполнительных директоров и стравливания их друг с другом".

😱 Илья опасался, что если Альтман узнает о готовящемся увольнении, то найдёт способ всех переубедить. 🙊

Важно, что почти все "доказательства" в документе Ильи пришли от одного источника — 😂 Миры Мурати, а у нее были свои конфликты с Сэмом, этим она делилась с Ильей. Илья доверился ей, не общался с третьими лицами и не проверял информацию.

После увольнения 🚫 Сэма Илья предложил Мире стать временным генеральным директором (CEO). Однако она отказалась и начала собирать подписи среди сотрудников за возвращение Альтмана.

🌌 Ситуация вышла из-под контроля, и возникла угроза для компании в целом (риск увольнения >90% всех сотрудников), Мира выбрала сторону Альтмана, которая казалась ей более сильной и выгодной - поддержала Сэма и инвесторов. В последствии этой "двойной игры" она покинула компанию.
Сэм получил сильную поддержку и был восстановлен. 😁

⏹ Судья спрашивает Илью, "кто должен управлять AGI?", на что получает ответ: «На данный момент я считаю, что за редкими исключениями, человек, который будет управлять (AGI), скорее всего будет очень хорош в играх власти. И во многом это будет похоже на выбор между разными политиками».

😳 Ответ Ильи выражает глубокий скептицизм по поводу того, что управление AGI сможет возглавить человек с безупречной моралью. Он сравнивает этот выбор с выбором политика, подразумевая, что к власти придут люди, жаждущие и умеющие управлять, а не обязательно "святые". 😇

🕸 Эта стенограмма еще одно доказательство того, что система управления AGI не работает, а риски безопасности потенциально игнорируются в угоду решения конфликта интересов и личных амбиций.

👍 Мысли Ильи имеют место быть, т.к. безопасный ИИ начинается с честного взгляда на самих себя, ведь если мы проявляем жажду власти, манипулируем и лжем, то ИИ будет учится на наших поступках и слабостях, что с высокой вероятностью проявится в его поведении в будущем. ☺️

🙌 Горизонт событий