OpenAI ontwricht gecoördineerde campagne om AI-modellen te exfiltreren

OpenAI heeft een gecoördineerde campagne verijdeld die erop gericht was om redeneervermogen uit haar AI-modellen te extraheren. Aanvallers manipuleerden modelinteracties om beschermde redeneerprocessen zichtbaar te maken. Ze kopieerden versleutelde redeneergegevens uit een gesprek en vroegen vervolgens in een apart gesprek aan het model om deze te ontsleutelen. Hierbij werd de encryptie niet gebroken en kregen de aanvallers geen directe toegang tot gebruikersgesprekken. Een bug die dit mogelijk maakte, is inmiddels opgelost. De activiteit werd op 1 juli waargenomen en nam geleidelijk toe. Op 24 en 25 juli werden 16.000 prompts van 4.000 gebruikers geregistreerd. Op 28 juli was het aantal ve...

https://newsfacts.info/v/6abd8c43b01804ca83c4ae61/openai-ontwricht-gecordineerde-campagne-om-ai-modellen-te-exfiltreren