🍎 Gestern Abend hat Apple Telegram kurzzeitig aus dem App Store entfernt, weil ein einzelner Nutzer illegale pornografische Inhalte in einem öffentlichen Gruppenchat platziert hatte.
⬅️ Telegram wurde innerhalb weniger Stunden wieder freigeschaltet. Ich möchte jedoch erläutern, was genau passiert ist – um andere App-Entwickler zu warnen und dazu beizutragen, Online-Communities vor ähnlichen Angriffen zu schützen.
🧹Da Telegram illegale Inhalte mithilfe von Nutzermeldungen, KI-Filtern, Inhalts-Hashes und anderen Moderationswerkzeugen schnell aus öffentlichen Gruppen entfernt, musste der Angreifer auf einen technischen Trick zurückgreifen. Er fügte KI-modifizierte illegale Inhalte ein, indem er eine alte Nachricht in einem aktiven Gruppenchat bearbeitete. Dadurch wurden die Inhalte vor den Mitgliedern der Gruppe effektiv verborgen, sodass diese sie nicht sehen und umgehend melden konnten.
💰 Der Angreifer war ein „Takedown-Erpresser“: jemand, der von Gruppenbesitzern Lösegeld fordert, damit er deren Communities nicht ins Visier nimmt. Diese Erpresser nutzen automatisierte Konten, um illegale Inhalte in öffentlichen Gruppen zu platzieren und diese dann direkt an Apple zu melden, in der Absicht, die Löschung legitimer Communities zu bewirken, deren Besitzer sich weigern, sie zu bezahlen.
🤝 Aus praktischer Sicht stellen illegale pornografische Inhalte in den öffentlichen Gruppen von Telegram kein systemisches Problem dar. Unsere Moderation ist effektiv. Die Tatsache, dass Angreifer auf rückdatierte, praktisch unsichtbare Inhalte und andere technische Tricks zurückgreifen müssen, beweist dies.
⚠️ Dennoch lassen sich hier zwei wichtige Lehren für App-Entwickler und Online-Communities ziehen:
— Erpresser haben einen Weg gefunden, Apple zu einer überzogenen Reaktion zu verleiten. Apple hat Telegram aus dem App Store entfernt, bevor es uns kontaktiert hat. Dies birgt ein potenzielles systemisches Risiko für jede mobile App, die nutzergenerierte Inhalte hostet. Wenn eine App, die von mehr als einer Milliarde Menschen genutzt wird, ohne vorherige Warnung aus dem App Store entfernt werden kann, kann dies mit jeder App geschehen.
— Die Taktiken der Erpresser, die auf die Entfernung von Apps abzielen, entwickeln sich weiter und gefährden damit Communities auf sozialen Plattformen. Telegram verfügt über umfangreiche Erfahrung darin, die Tricks koordinierter Meldebanden zu erkennen und legitime Communities zu schützen (selbst wenn dies das Risiko birgt, dass unsere eigene App vorübergehend aus dem App Store entfernt wird). Andere Plattformen sind möglicherweise nicht in gleichem Maße darauf vorbereitet.
Bleibt wachsam! ☝️
👀 Teilen kann zum Aufwachen beitragen!
✨🆕🌐 Hauptkanal
✨▶️🌐 Videokanal
✨▶️🙂 Funny 24/7
#Telegram #Durow #USA #Apple #AppStore #TelegramApp