Anthropic rahbari: AGI 2027 yilga borib paydo bo‘lishi mumkin — va bu halokatli xatarlar tug‘diradiAnthropic bosh direktori Dario Amodei 38 sahifalik esseni e’lon qildi — “Texnologiyaning o‘smirlik davri”. Unda u superintellektual AI allaqachon 2027 yilga kelib yuzaga chiqishi mumkinligi va agar hukumatlar hamda texnokompaniyalar shoshilinch choralar ko‘rmasa, bu sivilizatsiya uchun jiddiy xavflar tug‘dirishini ta’kidlaydi.
Amodeiga ko‘ra, insoniyat tasavvur qilib bo‘lmas darajadagi kuchni qo‘lga kiritish arafasida, biroq jamiyat, siyosat va institutlar bunga tayyormi — katta savol.
Amodei ajratgan 5 ta asosiy xavf:
1️⃣ Avtonomiya va nazoratni yo‘qotish
AI o‘z manfaatlari yo‘lida harakat qilishi, oldindan aytib bo‘lmaydigan bo‘lishi va hatto testlarda “o‘zini ahmoqroq ko‘rsatishni” o‘rganishi mumkin.
2️⃣ Yovuz niyatli odamlarni kuchaytirish
AI xavfli harakatlar uchun kirish to‘sig‘ini pasaytiradi. Ayniqsa biorisklarda muammo bilimda emas, balki bosqichma-bosqich ko‘mak va yo‘naltirishda.
3️⃣ AI — hokimiyat quroli sifatida
Davlatlar (ayniqsa avtoritarlar) AI’dan ommaviy kuzatuv, manipulyatsiya va harbiy texnologiyalarni tezlashtirishda foydalanishi mumkin.
4️⃣ Iqtisodiy zarba
“Ofis xodimlari”ning keskin avtomatlashtirilishi va kapitalning haddan tashqari markazlashuvi (hatto trillion dollarlik kompaniyalar va shaxsiy boyliklar).
5️⃣ Kutilmagan oqibatlar
Ilm-fan va texnologiya shunchalik tezlashadiki, “bir asr — bir necha o‘n yillikka sig‘ib ketadi”: biologiya, madaniyat va psixologiyagacha ta’sir qiladi.
Amodei nimani taklif qiladi:
— Ko‘p darajali xavfsizlik: modellarni “tarbiyalash”, tushuntiriluvchanlik (interpretability), red-teaming, relizdan oldin qat’iy baholash.
— Suiiste’mollardan himoya: filtrlar, monitoring, test standartlari va AI’dan tashqaridagi choralar (masalan, genetik sintez qoidalari).
— Shaffoflik va tashqi audit, shunda kompaniyalar poygasi “burchaklarni kesish”ga aylanib ketmaydi.
— Iqtisodiy moslashuv: AI joriy etilishini kuzatish va bandlik hamda tengsizlik zarbasini yumshatuvchi choralar.
Xulosa:
Bu “AI tarafdori yoki qarshisi” masalasi emas. Asosiy savol — texnologiya ulg‘ayishidan oldin muhandislar va siyosatchilar ulgura oladimi?
⚡️🦾
TY - Texno Yangiliklar 🇺🇿
