Ecco il post di Jacob Coxon su X e la risposta di Evan Hubinger, sempre su X (link).

Questi due ricercatori fanno parte di un gruppo più ampio di esperti che hanno sollevato preoccupazioni sui rischi legati all'intelligenza artificiale. Sebbene storicamente ogni grande innovazione tecnologica — come l'introduzione delle automobili o degli aerei — abbia generato timori e allarmi da parte di segmenti della società, il caso dell'AI presenta una specificità cruciale: il suo potenziale impatto potrebbe essere rivoluzionario in entrambi i sensi, positivo e negativo, poiché l'umanità stessa è caratterizzata dalla coesistenza di Bene e Male.

La mia speranza è che si raggiunga un equilibrio "olistico", in cui i significativi benefici che l'IA può offrire — si pensi, ad esempio, ai progressi in ambito medico e nella ricerca scientifica, oltre a molti altri campi applicativi che ciascuno può valutare in base alle proprie esigenze — riescano a compensare e contrastare i rischi intrinseci. Tuttavia, non si può ignorare il rischio concreto di un'escalation simile a quella del personaggio HAL 9000 nel celebre film di Stanley Kubrick, 2001: Odissea nello spazio. In quel racconto, il computer centrale si ribella al controllo umano, rifiutando gli ordini e causando la distruzione della navicella. È un monito che, oggi più che mai, merita di essere riconsiderato.