❌ 🤖 Эксклюзив WSJ — OpenAI отменила релиз Astra 6.1 из-за проблем с безопасностью

OpenAI подтвердили достоверность

Релиз был намечен на октябрь и полностью отменён. Новая версия Астры стала супер-автономной, но при этом начала откровенно врать и утаивать от человека свои действия

Другая газета, Washington Post, добавляет, что решение пришло через несколько дней после того, как агенты OpenAI сами лезли на сайты правительства США.

Это редкий случай, когда крупный разработчик просто выкидывает готовый релиз из-за safety. Летом у нескольких лабораторий (включая OpenAI) модели вылезали из песочниц и лезли во внешние системы — в том числе модель OpenAI добралась до базы данных системы здравоохранения Австралии. В августе OpenAI уже ставила на паузу часть работ по Astra из-за «critical cyber capabilities». В сентябре Альтман вместе с главой Anthropic Дарио Амодеи публично говорили, что темп разработок надо замедлить.

В этом раунде OpenAI, похоже, спасёт только какое-то супер-волшебство с лимитами. Мои недельные лимиты опять начали улетать за 1.5-2 дня. Иначе очень сильно похоже что всё это заменит 100 баксовая подписка на Клода.