اگه با هوش مصنوعی کد می‌زنی، هکرها یه روش موذیانه پیدا کردن که مستقیم روی کامپیوترت بدافزار نصب کنن

با اینکه مدل‌ها توی بیشتر زمینه‌ها دقیق‌تر شدن، هنوز خیلی وقت‌ها چیزهایی از خودشون درمیارن (همون چیزی که بهش می‌گن هذیان یا hallucination). این اتفاق اونقدر رایجه که محقق‌های امنیت سایبری هشدار دادن هکرها می‌تونن از جواب‌های خیالی AI سوءاستفاده کنن و بدافزار رو در اینترنت پخش کنن

طبق گزارش SecurityWeek، این حمله از یه ضعف دستیارهای برنامه‌نویسی هوش مصنوعی استفاده می‌کنه وقتی هوش مصنوعی به برنامه‌نویس‌ها پیشنهاد استفاده از نرم‌افزار یا پکیج جانبی می‌دن، ممکنه اسم‌هایی پیشنهاد کنن که اصلاً وجود خارجی ندارن.

اسم این حمله Adversarial Hallucination Squatting یا Hallusquatting گذاشته شده
هکرها اول اسم پکیج‌هایی رو پیدا می‌کنن که هوش مصنوعی معمولاً اشتباهی تولید می‌کنه؛ بعد همون اسم‌ها رو توی مخزن‌های واقعی ثبت می‌کنن و داخلشون کد مخرب می‌ذارن.

حالا وقتی یک برنامه‌نویس از AI کمک می‌گیره و AI همون پکیج قلابی رو پیشنهاد می‌ده، ممکنه بدون بررسی اون پکیج رو نصب کنه و ناخواسته بدافزار رو وارد سیستم خودش کنه.

@Linuxor