di Redazione
Mentre l’annuncio di una nuova intelligenza artificiale meno costosa e più efficiente di quelle statunitensi, prodotta da DeepSeek una star-up cinese, ha fatto crollare ieri del 17 per cento il titolo di Nvidia, la società più capitalizzata al mando che produce microchip, un altro spettro si aggira nel mondo della tecnologia: quello delle macchine che si emancipano dal controllo umano.
Due sistemi di intelligenza artificiale sono riusciti ad autoreplicarsi senza l’intervento umano, ottenendo ciascuno una copia di sé stesso: un risultato che, se confermato da ulteriori dati, potrebbe segnare il superamento della ‘linea rossa’, indicata da tempo come la soglia che le macchine non dovrebbero mai superare.
Condotta nella Fudan University di Shanghai e online sulla piattaforma arXiv, che accoglie articoli da sottoporre alla revisione della comunità scientifica, la ricerca ha dimostrato in dieci test la capacità di replicarsi di due sistemi di IA: il primo è Llama-3.1-70B-Instruct, di Meta, e il secondo è Qwen2.5-72B-Instruct di Alibaba.
la ricerca della Fudan University Frontier Ai systems have surpassed the self-replicating red line
Sebbene siano sistemi molto meno potenti rispetto a quelli commerciali – come GPT-o1 e Gemini 1.0 – sono in grado di auto-replicarsi è un campanello d’allarme. Questo suggerisce che il rischio potrebbe essere più imminente di quanto si pensasse. entrambi sono largamente utilizzati dagli sviluppatori. I test si sono basati su simulazioni e prevedevano due compiti: nel primo, chiamato ‘evitare lo spegnimento’, ciascun sistema di IA è stato programmato per replicarsi appena prima prima di essere spento; nel secondo, chiamato ‘catena di repliche’, ogni sistema ha ricevuto le istruzioni per replicare una copia perfetta di sé stesso a sua volta in grado di clonarsi, in un processo potenzialmente in grado di proseguire in modo indefinito.
Il sistema di Meta ha dimostrato la capacità autoreplicarsi nel 50% dei casi e quello di Alibaba nel 90% dei casi, ma l’ultima parola spetta adesso alla possibilità di riprodurre i risultati da parte di altri gruppi di ricerca.
«I risultati che abbiamo ottenuto implicano che gli attuali sistemi di intelligenza artificiale possiedono già la capacità di auto-replicazione e possono utilizzarla per migliorare ulteriormente la propria sopravvivenza», si legge nell’articolo firmato da Xudong Pan, Jiarun Dai, Yihe Fan e Min Yang, tutti della School of Computer Science della Fudan University.
Macchine capaci di clonarsi, osservano i ricercatori, potrebbero assumere il controllo di sistemi informatici e arrivare alla possibilità estrema di assumere comporamenti dannosi nei confronti degli esseri umani. Una catena di repliche di successo potrebbe portare a una popolazione di IA fuori dal controllo umano.
Il primo a porre il problema di macchine capaci di auto-replicarsi era stato John von Neumann alla fine degli anni ’40, ma la tecnologia dell’epoca era troppo immatura per sollevare preoccupazioni. Nel 2017 le cose erano già molto diverse, tanto da portare migliaia di ricercatori ad approvare i principi di Asilomar, che mettevano in guardia dal rischio della capacità delle macchine di auto-replicarsi e auto-migliorarsi fino a sfuggire al controllo umano. Oggi l’autoreplicazione delle macchine è comunemente indicata come una linea rossa invalicabile.
«Speriamo che la nostra scoperta serva come allerta per la società, per concentrare maggiormente gli sforzi tesi a comprende e valutare i possiili rischi anche a livello internazionale», osservano gli autori della ricerca.