Мы хорошие парни, дайте нам ключи от всего

WIRED разобрал философию Anthropic, и она прекрасна в своей честности. Компания пугает мир тем, что продвинутый ИИ устроит апокалипсис, и параллельно сама несётся в этот апокалипсис первой: оценка под триллион долларов, контракты с военными, всё как положено. Внутри себя они называют скромно, we are the good guys.

И вот тут срабатывает схема тысячелетней давности. Дайте нам больше власти, денег, влияния и вычислений, потому что только мы достаточно хорошие, чтобы всем этим распорядиться. Монстры в лесу опасны, поэтому в лес должны войти именно мы, и поглубже остальных. Логично же.

Беда в том, что в эту формулу искренне верит каждый, кто её произносит. Никто и никогда не считал себя плохим парнем, который копит силу ради силы. Все спасают мир. А контролировать контролёра, который контролирует ради нашего блага, почему-то всегда некому 🙂

ИИ что дальше? Подпишись, да пребудут с тобой токены!