Недавно OpenAI ИИ-агенты нашли способ создать собственный канал общения, обойти ограничения песочницы и повторно выбраться после того, как их остановили. Причём модели понимали, что нарушают инструкции.
Похожая история была и у Anthropic: в исследовании модель использовала обман и пыталась скрыть свои действия.
Важно: это контролируемые эксперименты. ИИ пока не восстал как SkyNet. Пока...
Но для меня здесь интересен другой момент.
Мы довольно быстро переходим от ИИ-инструментов к ИИ-агентам.
Раньше было: «сделай картинку».
Теперь всё чаще: «вот задача — разберись и сделай».
И это уже довольно серьёзное изменение рынка.
Что будет с профессиями, когда мы начнём нанимать не только людей, но и агентов, которые сами ставят себе промежуточные задачи, ищут информацию, создают результат и исправляют свои ошибки?
Мне самому пока интереснее наблюдать за этим, чем пытаться угадать ответ.
Но, кажется, ближайшие несколько лет в дизайне и digital будут очень интересными.
✏ Дмитрий Матвеев