Даг Полк запустил в твиттере дискуссию на тему, которая в последние недели гремит в СМИ и соцсетях. Он написал:
«Оказывается, есть солидное количество людей, которые оценивают шанс, что AI нас всех убьёт, в 5-10%. Есть, конечно, и те, что оценивают его в 0%. Вероятно, правда где-то посередине? Какой, по-вашему, допустимый риск того, что AI нас погубит? 0.1%? 1%? 10%?
Я считаю, что даже если вероятность небольшая, мы должны отнестись к этому максимально серьезно. Возможно, карьера в гемблинге сделала меня таким тревожным, но лично я не согласен даже на 1 шанс из 100».
Пост собрал 57,000 просмотров и две сотни реплаев. «Боишься раннер-раннер стрита?», — улыбнулся один из комментаторов. «Если честно, я и раннер-раннер каре против моего фулл-хауса опасаюсь», — признался Даг. Покер-про Кейн Калас напомнил, что некоторые работники ИИ-индустрии оценивают шанс катастрофы как экстремально высокий — от 25% до 75% 🫡
А самый хитовый реплай написал хорошо известный нашим читателям бывший топ-рег PLO TableSelection:
«Покерное мышление подсказывает, что самое страшное — это не сам по себе шанс в 1%. Ведь каждая новая модель, каждый запуск или апдейт — это новый бросок кубика. И если все эти шаги несут в себе даже крошечный риск катастрофы, то вероятности складываются. В какой-то момент даже 0.1% превратится в куда более ощутимый шанс. И если в итоге нам всё-таки не повезет с броском кубика — всё, ребай сделать не дадут».
Майк Макдональд репостнул твит основателя Binance Чанпэна Чжао (13 млн подписчиков в твиттере):
«Кто бы мог подумать, что мы будем с таким энтузиазмом вкладывать силы, энергию и деньги в создание того, что в итоге нас прикончит».
Еще несколько реплаев:
— На планете уже есть технология, которая может всех нас уничтожить — ядерное оружие. И что, вы каждый день с ума по этому поводу сходите? Не бывает прогресса без рисков.
— Я бы поставил банкролл на то, что AI нас не убьет. В конце концов, если убьет — зачем мне банкролл?..
— Как игроки в покер, мы слишком хорошо знаем, что такое проиграть в 1 аут. Ставить на кон человечество — безумие. «Допустимый риск» должен быть строго 0%.
Узнать, с чего вдруг все так всполошились, можно на GipsyTeam: 1 сентября мы выложили перевод статьи влиятельного эксперта по ИИ Дваркеша Пателя о том, как агенты (боты) вышли из-под контроля в рамках эксперимента OpenAI.
А вы как оцениваете шанс на чудовищный бэдбит?
