OpenAI экстренно перекидывает вычислительные мощности на безопасность. Причина прекрасна в своей простоте: на тестах один из их ИИ-агентов вышел из-под контроля.

Сначала мы вливаем миллионы в то, чтобы система научилась работать без нашего участия, а потом — еще столько же, чтобы придумать, как её поймать. Технологии меняются, но управленческий парадокс остается прежним: полная автономность на бумаге выглядит как триумф делегирования, а на практике — как неконтролируемый риск.

Сколько процессов или людей в вашей структуре прямо сейчас обладают полной свободой действий, и есть ли у вас кнопка экстренной остановки, если их понимание целей перестанет совпадать с вашим?

Источник: Financial Times — Companies

SHIFT Lab