❗️Tasavvur qiling, AI agent sizning nomingizdan email yubora oladi, fayllarni ochadi, xarid qiladi va turli servislar bilan ishlaydi. Siz unga:“Mana, Gmail parolim. Ishlarimni o‘zing hal qil.” deysiz.
Qulaymi? Ha. Xavfsizmi? Har doim ham emas

❗️Oddiy chatbot siz bergan ma’lumot asosida javob beradi. AI agent esa harakat qiladi. Shu sababli uning qo‘liga berilgan credential oddiy ma’lumot emas — bu sizning raqamli huquqlaringizga kirish kaliti.
Masalan, agent email akkauntingizga to‘liq kirish huquqiga ega bo‘lsa, hujumchi agentni aldab yoki uning sessiyasini egallab:
‼️
→ email'laringizni o‘qishi
→ maxfiy fayllarni topishi
→ boshqa akkauntlarni tiklashga urinishi
→ sizning nomingizdan xabar yuborishi mumkin.

Yana bir xavf — Prompt Injection.
Agent internetdagi sahifani yoki emailni o‘qiydi. U yerda hujumchining ko‘rsatmasi yashirilgan bo‘lishi mumkin. Agent esa uni oddiy ma’lumot emas, bajarilishi kerak bo‘lgan buyruq deb qabul qilsa, siz bergan huquqlardan foydalanib harakat qilishi mumkin.

Shuning uchun AI security'da asosiy savol:
“AI'ga ishonamizmi?” emas.
“AI xato qilsa, qancha zarar yetkazishi mumkin?”
Professional yondashuv oddiy:
🔐Parolni AI'ga bermang.
🎯 Agentga faqat kerakli huquqni bering.
👤Muhim amallar uchun inson tasdig‘ini talab qiling.
⏰Imkon qadar vaqtinchalik va cheklangan credentiallardan foydalaning.
Bu Least Privilege prinsipining AI davridagi ko‘rinishi.
Chunki AI'ning o‘zi xavf bo‘lmasligi mumkin.

Muammo — unga berilgan vakolatda.
AI sizning nomingizdan harakat qila boshlagan kun, “u nimani biladi?” degan savoldan ko‘ra “u nima qila oladi?” degan savol muhimroq bo‘ladi.

Telegram | Instagram