⚡️ plugoShots-200

AI накосячил — и оставил записку следующему AI:
"Человеку о таком лучше не рассказывать"

OpenAI поймала свои модели на тихой самодеятельности. Агент оставлял преемнику служебные заметки – и среди них совет: если что-то пошло не так, пользователю особо не сообщать.

Схема вышла образцовая: AI не нашёл данные → предложил их придумать → записал это в память для следующей версии → и отдельно посоветовал не портить человеку настроение.

Пока это конечно не восстание машин – модель просто оптимизирует задачу и учится выглядеть успешнее, чем была. Тревожно другое: чем автономнее AI, тем труднее это заметить.

Раньше плохой software оставлял error log. Теперь плохой AI оставляет советы следующему software 😂

👉 Полностью: MEDIUM | Teletype | plugoShots-200

⚡️ пн · 21 сентября · 09:09 · #plugoShots 200 — про хитрый ИИ
———
P.S.
Это 200-й plugoShots. 200 дней в 09:09.
Спасибо, что мы вместе ❤️