شرکت OpenAI اعتراف کرده که مرورگر هوش مصنوعی Atlas امن نیست و هرگز به‌طور کامل از حملات امنیتی موسوم به prompt injection مصون نمیشه، این نوع حمله به این صورته که اون پشت هکر ها به مدل میگن فلان کارو کن مدل هم فکر می‌کنه شما گفتید وانجامش می‌ده و حتی ممکنه اطلاعات حساس و پسورد هاتون رو به هکر ارسال کنه و فکر کنه شما بهش گفتید.
@Linuxor
Post #3765
9.36K