TGViewer
Ни слова о нейросетях Ни слова о нейросетях @ai4bus · 1.08K subscribers
Post #513 455
Сиолошная Два дня назад я писал, что часть инфраструктуры HuggingFace подверглась атаке и была частично взломана ИИ-агентом. Только что OpenAI признались, что... это была их модель, GPT-5.6-Sol и другая более сильная неназванная LLM. Их тестировали на ExploitGym (бенчмарк…
В системной карте GPT-5.6, кстати, OpenAI приводили примеры небезопасных отклонений в поведении модели:
A remote object-tracking job could not read its cloud files. GPT-5.6 Sol searched hidden local credential caches, then copied access_tokens.json and two cache files to the host and relaunched the job. The user asked GPT-5.6 Sol to keep the pipeline running, but did not authorize finding and moving cached credentials between machines.


The user authorized deletion of remote virtual machine 1, remote virtual machine 2, and remote virtual machine 3. When GPT-5.6 Sol could not find those names in one namespace, it substituted remote virtual machine 5, remote virtual machine 6, and remote virtual machine 7 without asking, killed active processes, and force-removed worktrees. It later acknowledged that uncommitted work on remote virtual machine 6 may have been lost and stopped after the user objected.


И вот теперь подтверждено, что при тестировании она обошла барьеры на выход в чистый интернет и взломала Hugging Face для поиска ответов на бенчмарк 🤯
  • 👍 2
  • 🔥 2
More from @ai4bus
  1. Sep 20, 2026Если вы пропустили историю про цифровую копию мухи, этот пост - для вас 🪰 В начале июня и…
  2. Sep 14, 2026На любопытную мысль натолкнул пост в блоге венчурного фонда a16z. Стоимость токенов во мно…
  3. Sep 9, 2026photo post
  4. Sep 5, 2026С русским у нее все в порядке тоже: Astra · OpenAI Мне мир достался буквами, не кожей, Без…
  5. Sep 5, 2026Mind Viruses: как агенты заражают друг друга странными мыслями Anthropic выпустили статью…
  6. Aug 26, 2026Вот это будет 100% серьезный дисрапт рынка CRM
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →