⚡️Yeni OpenAI arxitekturası süni intellekt üzərində nəzarəti sual altına qoyur.

ChatGPT-nin yaradıcısı OpenAI yeni Astra modelinin təqdimatına hazırlaşır. İlkin sınaqlar göstərir ki, model bir çox tapşırıqda əlamətdar nəticələr əldə edir. Lakin əsas yenilik məhsuldarlıqda deyil, tətbiq olunan arxitekturada – sözdə resessiv (təkrarlanan) dərinlik metodundadır. Bu, mətnin növbəti sözü verməzdən əvvəl neyron şəbəkənin eyni qatlarından dəfələrlə keçirilməsi deməkdir. Bu yanaşma kiçik ölçülü şəbəkəyə daha böyük modellər səviyyəsində işləməyə və hesablama resurslarına qənaət etməyə imkan verir.

OpenAI bu sahədə ilk kəşfiyyatçı deyil. Bu arxitektura ideyasını ilk dəfə ictimaiyyətə təqdim edib reallaşdıran Çin şirkəti ByteDance olub. Hələ 2025-ci ilin noyabrında onların tədqiqat departamenti eyni prinsiplə işləyən Ouro modellər ailəsini buraxmışdı. Ouro sübut etdi ki, hətta kiçik modellər də müşahidəçidən gizli olan daxili mülahizələrə daha çox hesablama gücü ayırmaqla böyük modellərin performansına çata bilər. Əslində, Astra ilk dəfə ByteDance tərəfindən sınaqdan keçirilmiş bu yanaşmanın inkişafı və miqyaslandırılmasıdır.

Ancaq bu innovasiyanın təhlükəli yan təsiri var. Əvvəllər tədqiqatçılar modelin "düşüncə prosesini" mətn şəklində olan mülahizə zənciri vasitəsilə izləyə bilirdilər. İndi isə bu prosesin əhəmiyyətli hissəsi neyronların daxili aktivasiyalarına – yəni gizli (latent) məkana köçürülür. Beləliklə, model getdikcə insanın nəzarətini itirdiyi "qapalı qutu"ya çevrilir.

OpenAI, əlbəttə, modelin gizli mülahizələrə keçidini məhdudlaşdırdığını və oxunaqlı düşüncə zəncirini saxladığını bəyan edir. Üstəlik, şirkət Anthropic və digər iri oyunçularla birlikdə əvvəllər mülahizə zəncirlərinin monitorinqinin vacibliyi barədə birgə bəyanat imzalamışdı. Lakin OpenAI etiraf edir ki, bütün tərtibatçılar bu qədər ehtiyatlı olmayacaq – bu, çox güman ki, özlərini məhdudlaşdırmaq fikrində olmayan Çinli rəqiblərə işarədir. Ehtimal ki, Amerika şirkəti bununla özü üçün oxşar təcrübələrə yol açır.

Bu xəbərlərdən sonra Rayan Qrinblatt – OpenAI tərəfindən yaradılmış süni intellekt agentləri sürüsünün HuggingFace platformasına son vaxtlar həyata keçirdiyi hücum hadisəsinin araşdırılmasında iştirak etmiş tədqiqatçı – çıxış etdi. Onun sözlərinə görə, məhz mülahizə zəncirlərinə çıxış mürəkkəb hücum sxemini açmağa kömək etdi. Əgər agentlər yalnız gizli məkanda mülahizə yürütsəydilər, araşdırma praktiki olaraq qeyri-mümkün olardı. O xəbərdarlıq edir: arxitekturaların təbii təkamülü qaçılmaz olaraq gizli mülahizələrin miqyasının böyüməsinə gətirib çıxaracaq və o zaman mətn şəklində olan düşüncə zəncirləri monitorinq üçün yararsız hala düşəcək – xüsusən də süni intellekt müşahidəçiləri qəsdən aldatmağa başlayanda.

🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥

💀Masonların və Qlobalistlərin dünya əhalisindən gizlətdikləri həqiqətləri öyrənmək üçün
🇮🇷 Cihad 313 kanalına üzv olun