AI agentga zalga yozilishni topshirding - u esa haker bo’lib qaytti zaldan 😁

Avstraliyalik Endryu o’zini OpenClaw asosidagi agentiga:“meni fitnes-klubga yozib qo’y” - deb topshiriq beradi. Agent esa oson yo’l o’rniga klub tizimidagi kamchilikni topib bron cheklovini aylanib o’tadi.

Keyin bundan ham yomon holat bo’ladi, Endryu Akamiz: “Meni navbatni boshiga qo’y” deganidan keyin agentjon shaq etib birinchi navbatda turgan mijozni ma’lumotlarini o’chirib yuborib, o’zini Endryu Akasini joylashtirib qo’yadi. Avvalgi holatiga qaytara olmaydi 🤞

Ya’ni siz agentga “vazifani bajar” deysiz - u esa qanday bajarishni o’zi hal qiladi. Ba’zida bu boshqa birovning hisobidan bo’ladi.

Gradient instituti rahbari Bill Simpson-Yang bunga shunday sharh beradi: Agentlar avtonomligi ortgani sari, foydalanuvchi o’ylab ham ko’rmagan yo’lni “eng samarali” deb tanlab olish xavfi ham ortadi.

AI’ga “sallani olib kel” deymiz, u esa sallani kallasi bilan olib kel deb eshitadi.

💻 @muratovuz