شرکت انتروپیک افزونه جدید Claude برای کروم رو به‌صورت آزمایشی عرضه کرده تا کاربرها بتونن مستقیماً در مرورگر به Claude دستور بدن و کارهایی مثل مدیریت تقویم، نوشتن ایمیل یا پر کردن فرم‌ها رو انجام بدن. به گفته انتروپیک، مرورگر-ایجنت‌های هوش مصنوعی دیر یا زود به بخشی جدایی‌ناپذیر از کارهای روزمره تبدیل می‌شن، اما در عین حال خطرهای امنیتی بزرگی مثل prompt injection وجود داره؛ جایی که هکرها دستورهای مخفی رو در وب‌سایت‌ها یا ایمیل‌ها جاسازی می‌کنن تا Claude رو به انجام کارهای ناخواسته مثل پاک کردن ایمیل‌ها یا انتقال داده حساس وادار کنن. آزمایش‌های اولیه نشون داده که بدون محافظت، این حمله‌ها می‌تونن با موفقیت بالایی اجرا بشن.

انتروپیک برای مقابله با این خطرها لایه‌های دفاعی مختلفی در نظر گرفته؛ از جمله تأیید کاربر قبل از انجام کارهای حساس، امکان محدود کردن دسترسی Claude به سایت‌ها، مسدودسازی سایت‌های پرریسک، و استفاده از مدل‌های شناسایی الگوهای مشکوک. این اقدامات باعث شده نرخ موفقیت حمله‌ها به طور قابل توجهی کاهش پیدا کنه. با این حال، شرکت تأکید کرده که هنوز باید با کمک کاربرهای آزمایشی نقاط ضعف باقی‌مونده شناسایی بشه. فعلاً این قابلیت فقط برای هزار نفر از کاربران پلن Max فعال شده و انتروپیک امیدوار هست با جمع‌آوری بازخورد و بهبود امنیت، بتونه در آینده این ابزار رو برای همه کاربران عرضه کنه.

@aipulse24