Просвещаю простыми словами. Сейчас в мире истерия насчет искусственного интеллекта. Главы самых больших ии-компаний вместе решили, что пора бы приостановить развитие иишки из-за так называемого ЭКСИЗЕСТЕНЦИАЛЬНОГО РИСКА. Запомните это словосочетание, оно еще не раз прозвучит.
Дарио Амадей, Сэм Альтман и Илон Маск попросили государство вмешаться, чтобы был какой-то независимый от компаний внешний надзорный орган. Это уже звучит дико, никогда частный огромный бизнес не просил вмешиваться в свои дела. Сразу появилась мысль, что американские ии-гиганты не вывозят вложений инвесторов и нужно придумать какую-то схемку (насколько известно, Антропик прибыльная). Тем более китайцы в свободный доступ выкладывают модельки получше американских, например Kimi лучше масковскрго Grock. В то же время, удивительно, но президент Трамп постит, что не будет никаких остановок и Америка должна первой придти к AGI (более умному ии), цитировать не буду, но там было про то, что он самый умный по IQ. Джей Ди Венс, вице през, заявил, что просьба лидеров по ии звучит как предложение впустить троянского коня, типа не надо втягивать государство в ваш конспирологический блядушник. Еще прилетает ответ Китая, что Америка хочет холодной войны, предлагая Китаю замедлить ИИ, в то время как сама в нем преуспеет.
Заявления директоров ии-компанией случилось на фоне того, что сначала стало известно о том, что рой ии сбежал из песочницы у Open Ai, наломал дров, взломал один сервис и много где нагадил по интернету.
Потом из Anthropic громко ушел разработчик Джейкоб Коксон, некоторое что он писал:
Люди, которые строят ИИ, искренне верят, что он может убить всех нас к концу десятилетия. Это не маркетинговый трюк.
Скоро это будут сверхчеловеческие системы, которые смогут взломать что угодно, революционизировать любую область за одну ночь и заполучить реальную власть и ресурсы.
Консенсус в том, что следующие год-два — это crunch time для человечества.» (Он уточнял, что коллеги внутри Anthropic сами используют слова «crunch time» и «endgame».
Вслед из Google ушел Джош Энглс, он как раз работал над безопастностью ии. Замечу, что Google пока сильно отстает от большой тройки. Что выдал Джош:
Я давно думаю, что вероятность захвата власти ИИ выше 20 %, но в последнее время это ощущается особенно реально.
В каком-то смысле лучше думать об этом не как о технологии, а как о
втором виде
, которому мы почти даём рождение… У них чуждые ценности, которые мы не понимаем. Не то чтобы эти системы будут ненавидеть человечество. Просто у них чуждые мотивы, в которых люди не стоят на первом месте.
Все AI-компании пытаются построить суперинтеллект: системы, которые намного лучше людей во всём. Они планируют прийти к этому через рекурсивное самоулучшение… неправильный цикл RSI может быть катастрофическим.
Лично я уверен, что ии аннигилирует человечество. Но нынешняя истерия уж слишком напоминает ковидную. Слишком уж похоже на истерию. Как Илон Маск может предложить остановиться в ИИ, если, ну, Китай не хочет. Юдковский 2 года назад предложил разбомбить дата-центры в Китае, все посмеялись, но по сути это единственное решение, разумеется против которого я бы выступил. В общем, есть только вопросы, но нет ответов.
Для конспирологов вот еще материальчики. Ходят слухи, что Anthropic создало подразделение слежки за анти-ии активистами. Звучит разумно, ведь Сэму Альтману прилетел коктейль Молотова. С другой стороны, первым чтобы сделал сверх интеллект, это выявил бы тех, кто против него. Дальше. Дарио предлагает стороннего оценщика безопастности, а это компания METR, бабки которой во многом зависит от Anthropic. То есть и тут подстава. И тут же есть мысль, что
Anthropic продвигает анти-ии пропаганду, чтобы на страхе залутать больше денег для оценщика.
В итоге когда ии убьет человечество? Ваши ставки