یه حفره امنیتی خیلی جدی توی LangChain پیدا شده که اسمش رو گذاشتن LangGrinch. (LangChain یه فریم‌ورک برای ساختن اپلیکیشن‌های هوش مصنوعیه که اجازه می‌ده مدل‌های زبان بزرگ مثل ChatGPT با سیستم‌های مختلف مثل دیتابیس یا وب سرویس‌ها ارتباط داشته باشن). این مشکل باعث می‌شه یه نفر با دستکاری هوش مصنوعی، بتونه کل اسرار سیستم رو بگیره، از کلیدهای API تا اطلاعات دیتابیس و ابر. دلیلش یه باگ توی بخش serialization هست که داده‌ها درست کنترل نمی‌شن و مهاجم می‌تونه با یه ورودی ساختگی، داده‌ها رو به سمت خودش بفرسته.

این کتابخونه که ماهی یک 800 میلیون دانلود داره توی خیلی از اپلیکیشن‌های AI استفاده می‌شه و فقط خودش مشکل داره، وابسته به چیزای دیگه نیست. پس هر سیستمی که ازش استفاده می‌کنه، باید سریع به نسخه‌های امن 1.2.5 یا 0.3.81 آپدیت کنه تا امنیتش حفظ بشه. نکته جالبش اینه که باگ از مسیر معمول داده‌ها پیدا شده و فقط یه ورودی اشتباه می‌تونه سطح دسترسی کامل سیستم رو لو بده، چیزی که برای AIهای عملیاتی واقعا خطرناکه.

@Linuxor