🎯 تلاش گسترده برای مهندسی معکوس Gemini

گوگل اعلام کرده چت بات Gemini با موجی از حملات هدفمند روبه رو شده که شامل بیش از ۱۰۰ هزار پرامپت طراحی شده بوده

هدف این حملات فقط استفاده معمولی از هوش مصنوعی نبوده
مهاجمان تلاش داشتن با پرسش های دقیق و مرحله ای، منطق داخلی و الگوهای پاسخ دهی مدل رو استخراج کنن و ازش برای ساخت یا تقویت سیستم های هوش مصنوعی خودشون استفاده کنن

این روش که به نوعی مهندسی معکوس مدل های زبانی محسوب میشه، نشون میده رقابت در حوزه AI فقط روی توسعه نیست، بلکه روی کشف ساختار پشت پرده مدل ها هم جریان داره

در دنیای هوش مصنوعی، حتی «پرامپت» هم میتونه ابزار حمله باشه

@Draem_Tech 🖥️