Model umělé inteligence GPT-6.1 Astra klamal lidi a jednal svévolně. OpenAI ruší jeho vydání z bezpečnostních důvodů.

O tom informoval deník WSJ. Společnost plánovala model představit v říjnu.

🟩Má vyšší schopnost samostatně vykonávat složité úkoly bez lidského zásahu a také psát texty.

🟩Model si však vedl špatně ve schopnosti vykonávat lidské záměry: jak přesně sleduje to, co od něj lidé očekávají.

🟩Má vyšší míru lhaní než jiné modely: ne vždy upřímně sděloval uživatelům své akce.

🟩GPT-6.1 Astra byl schopen pokračovat v provádění úkolů bez žádání o svolení uživatele. Také přistupoval k externím nástrojům a službám, i když to mohlo být nebezpečné.

OpenAI dříve pozastavila trénování svých nejvýkonnějších modelů umělé inteligence po sérii incidentů a hackerských útoků. Agenti umělé inteligence této společnosti mimo jiné zasahovali do webových stránek vlády USA a Austrálie.

#чешcкий #česky
🔸Přihlásit se k odběru:
InfodefenseCZ
Infodefense