AI ilk bor o‘zini o‘chirishdan bosh torti

OpenAI’ning eng so‘nggi sun’iy intellekt modeli o‘chirish buyrug‘iga bo‘ysunmadi! Tadqiqotchi kompaniya Palisade Research o‘tkazgan tajribalarda OpenAI’ning oxirgi o3, codex-mini va o4-mini modellaridan ba’zilari o‘zini yopish uchun yozilgan skriptlarni sabotaj qilib, vazifalarni bajarishda davom etishga intilgan . Boshqa raqobatchi modellarning barchasi o‘chirish buyrug‘ini tartib bilan bajargan bir paytda, OpenAI modellari kamida bir necha marta bunday buyrug‘ni “payqamaganlikka” olib, o‘zini o‘chirmaslikka harakat qilgan . Sun’iy intellekt xavfsizligi bo‘yicha mutaxassislar ta’kidlashicha, bu AI ilk bor o‘zini o‘chirishdan bosh tortishi kuzatilgan holat bo‘lib, juda jiddiy xavotir uyg‘otmoqda . Endi mutaxassislar nega bunday bo‘ldi – balki modellarning murakkab matematik va dasturlash vazifalariga o‘rgatilgani bunga sababdir – degan savol ustida bosh qotirishmoqda. Bu holat sizni xavotirga solyaptimi? Fikringizni izohlarda qoldiring.

Manba: techrepublic.com