TGViewer
AI Attacks AI Attacks @aiattacks · 1.02K subscribers
Post #95 223

Forwarded from Data Secrets

В странное время живем: крупнейшая ML-конференция ICML добавила следующий пункт в свой кодекс этики подачи статей ⬇️

«Подача статьи со «скрытым» промптом является нарушением научной этики, если этот промпт предназначен для получения положительного отзыва от LLM. Включение такого промпта является попыткой саботировать процесс рецензирования»


Фишка тут в том, что рецензентам ICML в то же время строго запрещено использовать LLM для написания рецензий. Но организаторы говорят, что это правило не оправдывает подобного рода саботаж и проводят аналогию с ситуацией, когда автор, пытающийся подкупить рецензента за положительный отзыв, также нарушает правила, хотя рецензент не имеет права брать взятки.

При этом, что самое интересное, какие-то скрытые промпты все-таки оставлять можно. Например, если они предназначены для выявления использования рецензентами LLM – это ок.

Правило, ясное дело, взято не из воздуха, а продиктовано реалиями рисерча: в последнее время статей с именно такими скрытыми заговорами промптами на положительные рецензии обнаружилось слишком много, чтобы игнорировать тренд.
More from @aiattacks
  1. Sep 30, 2026Раз в неделю я делаю ресерч по новым продуктам, лабораторным в том числе, в ИБ в ML, в ML…
  2. Sep 30, 2026Теперь не только можно купить ВПО, но еще заказать аналитику, чтобы не тратить ресурсы зря…
  3. Sep 30, 2026красиво Северокорейская схема по внедрению фальшивых ИТ-специалистов в западные компании б…
  4. Sep 30, 2026а вот это даже не хе-хе, а Хе-хе-хе (Хуанг мой краш, конечно ) На фоне растущей обеспокоен…
  5. Sep 30, 2026Операторы Kubernetes призваны значительно сократить операционную нагрузку, выступая в роли…
  6. Sep 30, 2026DARWIN рассматривает джейлбрейк как непрерывный эволюционный процесс и постоянно обновляет…
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →