پرامپت اینجکشن، درد بی درمان!
به نظر میاد هنوز پای مرورگرهای هوشمند به زندگی ما باز نشده، معضلی برای اونها شناخته شده که قراره انگار درمان هم نشه!
به طور ساده جریان اینه که:
شما مثلاً عادت داری رمزهای خودت رو در مرورگر را ذخیره می کنی و از ایجنت و دستیار هوش مصنوعی میخواهی که بره وارد سایت های مرتبط با شما بشه و عملیات خاص هم انجام بده.
بعد یهو معلوم میشه در یک سایت آلوده به صورت مخفی و غیر قابل دیدن برای انسان، متن هایی گنجانده شدن که دستیار هوش مصنوعی اونها رو خونده و اجرا کرده بدون اینکه شما با خبر بشی! مثلاً فرمانی مبنی بر ارسال پسورد های ذخیره شده در مرورگر به یک آدرس ایمیل و کارهایی نظیر این!
خوب حالا این یک مثال بود ولی به نظر نمیاد راهکار خاصی هم داشته باشه! چون واقعاً نمیشه پیش بینی کرد که تزریق پرامپت یا دستورات ممنوع و مخرب با چه عناوینی و در چه موضوعاتی و دقیقاً از چه طریقی ممکنه رخ بده که بشه جلوی اونو گرفت!
واقعاً چاره چیست!؟
Post #852
692
- ❤ 4