Ieri sera, Apple ha rimosso temporaneamente Telegram dall'App Store perché un singolo utente aveva inserito contenuti pornografici illegali in una chat pubblica di gruppo.

⬅️ Telegram è stato ripristinato in poche ore. Ma voglio spiegare cosa è successo, per avvisare gli altri sviluppatori di app e contribuire a proteggere le comunità online da attacchi simili.

🧹Poiché Telegram rimuove rapidamente i contenuti illegali dai gruppi pubblici utilizzando tutti i tipi di strumenti di moderazione, l'aggressore ha dovuto ricorrere a un trucco tecnico. Ha inserito contenuti illegali modificati dall'intelligenza artificiale modificando un vecchio messaggio in una chat di gruppo attiva. Di conseguenza, il contenuto è stato effettivamente nascosto ai membri del gruppo, impedendo loro di vederlo e segnalandolo tempestivamente.

💰 L'aggressore era un estorsore: qualcuno che chiede un riscatto ai proprietari dei gruppi in cambio del fatto di non prendere di mira le loro comunità. Questi estorsori utilizzano account automatizzati per inserire contenuti illegali in gruppi pubblici e poi segnalarli direttamente ad Apple, tentando di innescare la rimozione delle comunità legittime i cui proprietari si sono rifiutati di pagarle.

🤝 Da un punto di vista pratico, i contenuti pornografici illegali nei gruppi pubblici di Telegram non sono un problema sistemico. La nostra moderazione è efficace. Lo dimostra il fatto che gli aggressori debbano ricorrere a contenuti retrodatati, effettivamente invisibili, e ad altri trucchi tecnici.

⚠️ Tuttavia, ci sono due lezioni importanti per gli sviluppatori di app e le comunità online:

— Gli estorsori hanno trovato un modo per manipolare Apple inducendola a reagire in modo eccessivo. Apple ha rimosso Telegram dall'App Store prima di contattarci. Ciò crea un potenziale rischio sistemico per ogni app mobile che ospita contenuti generati dagli utenti. Se un’app utilizzata da più di un miliardo di persone può essere rimossa dall’App Store senza preavviso, qualsiasi app può esserlo.

— Le tattiche utilizzate dagli estorsori si stanno evolvendo, mettendo a rischio le comunità sulle piattaforme social. Telegram ha una vasta esperienza nell'individuare i trucchi utilizzati dalle bande di denuncianti coordinate e nella protezione delle comunità legittime (anche quando ciò comporta il rischio che la nostra stessa app venga temporaneamente rimossa dall'App Store). Altre piattaforme potrebbero non essere altrettanto preparate.

Rimani vigile! ☝️ 4/8/26 #Pavel