🔴 هک کردن Agent هوش مصنوعی با تکنیک Cryptographic Context Injection


♦️جدیدا یه تکنیک اومده برای حمله به Agent های هوش مصنوعی که به شدت جالبه ، توی این تکنیک شخص هکر نمیاد دستورات مخرب خودشو مستقيم بزاره تو صفحه وب ، به جاش میاد دستورات مخرب رو رمزنگاری میکنه و میزاره توی JSON


🌕 حالا چه اتفاقی میفته؟ Agent هوش مصنوعی به این اطلاعات رمزنگاری شده میرسه  و ممکنه برای تحلیل بخواد Decode رو انجام بده مثلا از طریق پایتون ، اطلاعات decrypt در کنار اطلاعات اصلی توسط هکر قرار داده شده برای همین Agent هوش مصنوعی می‌تونه اطلاعات رو رمزگشایی کنه



🔥 در نهایت هوش مصنوعی به این اطلاعات رمزگشایی شده اعتماد میکنه که بهش میگن Trust Laundering ، چون هوش مصنوعی با ابزار داخلی خود تحلیل کرده و به این نتیجه رسیده اعتماد میکنه و دستور نهایی به یک دستور واقعی برای Agent تبدیل میشه


❌ این تکنیک روی هوش مصنوعی Grok کار میکرده که الان دیگه پچ کردن اما ممکنه هنوز خیلی از مدل ها این تکنیک روشون کار کنه


👑 خیلی وقت پیش گفتم بازم میگم که هوش مصنوعی نمیتونه جای هکر ها رو بگیره:)


@UltraSecurity