TGViewer
Agentic Engineer Agentic Engineer @data_engi · 687 subscribers
Post #1235 202
👻AI-агенты перепроверили треть работ ICML 2026

Более 1200 участников с помощью Codex, Claude Code, Cursor и других агентов попытались воспроизвести 2226 научных работ — около 34% всей конференции. Код, результаты и трассы запусков публиковались открыто.

Только 266 работ удалось воспроизвести полностью. У 23% проверенных публикаций хотя бы один вывод был опровергнут или оспорен. Но и агенты ошибались: одна громкая «находка» оказалась обычным сравнением времени одной операции со временем пакета из 50.

Для тебя вывод практический: агент хорошо масштабирует проверку кода и экспериментов, но его вердикт тоже нужно перепроверять. Лучшие результаты получились там, где человек управлял направлением исследования и проверял спорные выводы.

Пруф: отчёт Hugging Face от 13 августа 2026 года

#aiagents #machinelearning #research #reproducibility #icml #aievals

@data_engi
huggingface.co What We Learned by Reproducing 2,200 papers from ICML We’re on a journey to advance and democratize artificial intelligence through open source and open science.
More from @data_engi
  1. Oct 5, 2026Промптом можно пролезть без очереди на LLM-сервере 😁 2 октября исследователи описали JIL…
  2. Oct 5, 2026Iceberg Kafka Connect перестал молча терять данные при ошибке записи 👈 В Apache Iceberg 1…
  3. Oct 4, 2026От "наши LLM - мирового уровня" до "но нужно трезво смотреть на вещи..." прошла одна блоки…
  4. Oct 4, 2026Память агента нельзя оценить, если он её не видел 🤨 1 октября исследователи представили C…
  5. Oct 4, 2026Бэкап PostgreSQL может незаметно вытеснить рабочие данные из памяти ☺️ 2 октября ClickHous…
  6. Oct 3, 2026Agentic Engineer pinned a photo
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →