Google представив нову систему S-CTS (Scalable Cluster Termination System), яка змінює підхід до модерації контенту. Замість того, щоб аналізувати окремі підозрілі матеріали (що стає неефективним через величезні обсяги «сміттєвого» контенту), система фокусується на виявленні цілих мереж (кластерів) акаунтів, які діють скоординовано.

— Традиційні фільтри якості не справляються з унікальними варіаціями одного й того самого спаму. Нова система ідентифікує патерни, що свідчать про спільне походження контенту.

— Використовується двоетапний підхід. Виявлення мереж ботів через технічні сигнали та нетипову поведінку (масова публікація, спільні скрипти). Використання ШІ для пошуку шаблонів у тексті та медіа.

— Дослідники підтвердили застосування S-BERT для ідентифікації семантично схожих речень, що дозволяє виявляти автоматизовані наративи за лічені секунди.

— Щоб не перенавчати величезні моделі, Google використовує технології Low-Rank Adaptation (LoRA) та Automatic Prompt Optimization (APO). Це дозволяє системі швидко вчитися розпізнавати нові типи спаму, щойно з’являються нові генеративні моделі (наприклад, Sora або Kling).

Боротьба зі спамом виходить на рівень виявлення цифрових відбитків автоматизації та інфраструктурних зв'язків між акаунтами. Використання ШІ для генерації масового контенту стає дедалі ризикованішою стратегією.

Дані на основі документу:
https://research.google/pubs/scalable-detection-of-adversarial-synthetic-slop-and-coordinated-media-abuse-a-lora-enabled-multimodal-defense-system/

Огляд на SEJ:
https://www.searchenginejournal.com/google-generated-ai-detected/579987/

S-BERT:
https://arxiv.org/pdf/1908.10084