AI inson kabi fikrlay olmasa, nega olimlar undan qo'rqmoqda?

Menimcha, muammo AI - ning qanchalik aqlli ekanida emas.

Muammo unga berilgan avtonomiyada.

Tasavvur qiling, insoniyat tank yaratdi.

Lekin tankni boshqarib bo'lmaydi.

U o'zicha harakat qiladi, o'zicha nishon tanlaydi va o'q uzadi.

Tank "aqlli" bo'lmasa ham, bu katastrofik xavf.

Chunki xavf uning aqlida emas.

Xavf uning harakatini boshqara olmayotganimizda.

AI bilan ham shunga o'xshash muammo paydo bo'lishi mumkin.

Bugun biz Human-in-the-Loop kabi mexanizmlardan foydalanamiz: AI muhim harakatdan oldin inson tasdig'ini oladi.

Lekin AI tizimlari tobora ko'proq avtonom bo'lib borayotgan sari asosiy savol o'zgaradi:

"AI aqllimi?" emas.

"Biz unga nima qilish huquqini berdik va uni kerak bo'lganda to'xtata olishimizga qanchalik ishonamiz?"

Menimcha, AI safety - ning eng katta muammolaridan biri aynan shu.

Va bu yo'nalishda juda katta ilmiy va engineering opportunity bor.

@devfarhod