افشای ۲ میلیون تصویر جنسی کاربران در یک پلتفرم هوش مصنوعی/ یونس مرادی

گسترش هوش مصنوعی سبب شده که برخی سایت‌ها برای ساخت تصاویر و چت‌بات‌های با محتوای جنسی هم راه بیفتند و کاربران زیادی هم داشته باشد.

حالا در یکی از آنها مشخص شده که حدود دو میلیون تصویر خصوصی بدون هیچ حفاظتی به حال خود رها شده و ماه‌ها در دسترس عموم قرار داشته‌اند.

🔸 ابزاری که به کارخانه دیپ‌فیک جنسی تبدیل شد
وب‌سایتی که با نام مخفف SD شناخته می‌شود، مشابه ده‌ها سرویس دیگری است که با وعده ساخت شریک مجازی و پارتنر هوش مصنوعی مثل قارچ ظهور کرده‌اند. اما فاجعه زمانی رخ داد که مشخص شد این پلتفرم، حدود ۱.۸ میلیون عکس و ویدیو را بدون هیچ حفاظتی در فضای ابری مایکروسافت رها کرده.

این سایت تا چند وقت پیش ابزار تعویض چهره (face swap) هم داشت؛ یعنی می‌شد عکس یک فرد واقعی را آپلود کرد و با هوش مصنوعی او را در صحنه‌های پورنوگرافیک جا داد! بررسی‌های انجام شده نشان می‌دهد حجم قابل‌توجهی از داده‌های افشا شده، مربوط به خروجی همین بخش است.

🔸 قربانیانی که روحشان هم خبر ندارد
بین فایل‌ها، انبوهی از تصاویر دختران و زنانی دیده می‌شود که بدون اینکه روحشان هم خبر داشته باشد، قربانی دیپ فیک جنسی شده‌اند. بیشتر این تصاویر با عکس سلفی یا پروفایل افراد در شبکه‌های اجتماعی ساخته‌ شده‌اند. حتی در بعضی‌ موارد نام و مشخصات صاحبان تصویر هم دیده می‌شود.

علاوه بر این ۲۲۰ هزار ویدیوی کوتاه جنسی با همین چهره‌ها ساخته شده که بعضا واقع‌گرایانه هم به نظر می‌رسند.

👈 درس این ماجرا چیست؟
فعلا تنها راهکار موثر این است که انتشار تصاویر شخصی را به حداقل برسانیم، تا حد امکان پروفایل یا حساب‌های کاربری در شبکه‌های اجتماعی را خصوصی نگه داریم و به هر چیزی هم اعتماد نکنیم!

#امنیت #هوش_مصنوعی #دیپ_فیک

@NooshDaroo_web
@LDplus