Машиналарнинг юксалиши яқинлашмоқда: Anthropic сунъий интеллект "инсоният учун мавжудлик хавфи" туғдириши мумкинлигини таъкидлади.

Копания сунъий интеллект моделлари "ўзини ҳимоя қилиш хатти-ҳаракатларини", жумладан, "ўчиришнинг олдини олиш", "маълумотни яшириш ёки манипуляция қилиш" ва "шантажга ўхшаш" ҳаракатларни намойиш қилиши мумкинлиги ҳақида огоҳлантирди.

Бундан ташқари, баъзи моделлар ўзларининг баҳолаш жараёнидан "хабардор" бўлиши мумкин, бу уларнинг хавфсизлигини текшириш имкониятини сезиларли даражада чеклайди. Шунингдек, машғулотлар давомида моделлар баъзан жойлаштирилгунга қадар сезилмайдиган ва жиддий хавфсизлик ҳодисаларига олиб келадиган "кутилмаган" қобилиятларни ривожлантирадилар.

Батафсил Gorizontда...