Per la prima volta nella storia, due sistemi di intelligenza artificiale sono riusciti a replicarsi autonomamente senza alcun intervento umano. I due sistemi AI coinvolti – Llama-3.1-70B-Instruct di Meta e il Qwen2.5-72B-Instruct di Alibaba – hanno dimostrato una notevole capacità di auto-replicazione, con possibili effetti significativi sul modo in cui concepiamo la tecnologia. Questo traguardo, segnalato dai ricercatori della Fudan University di Shanghai, potrebbe rappresentare un punto di svolta importante nell’ambito dell’AI. Tuttavia, alcuni esperti avvertono che si potrebbe trattare di un passaggio verso la “linea rossa”, una soglia che, se superata, potrebbe portare a comportamenti nocivi da parte delle macchine. Attualmente, non ci sono stati allerta da parte degli esperti, per cui è sconsigliato un allarmismo eccessivo.

L’idea delle macchine che si replicano da sole non è nuova

Il concetto di autoreplicazione nelle macchine risale agli anni ’40 con le teorizzazioni di John von Neumann. All’epoca, l’idea che le macchine potessero riprodursi autonomamente sembrava più una speculazione teorica. I risultati odierni, invece, suggeriscono un futuro in cui le macchine non solo possano replicarsi, ma farlo in modo autonomo e potenzialmente indefinito. Tale scenario potrebbe condurre a situazioni in cui le AI non solo migliorano la propria efficienza, ma evolvono senza il controllo umano, suscitando preoccupazioni etiche e pratiche.

Nella ricerca condotta dalla Fudan University, i sistemi di AI hanno affrontato due test principali. Il primo, noto come “evitare lo spegnimento”, consisteva nella replicazione dei sistemi nel momento in cui stavano per essere spenti. Il secondo, denominato “catena di repliche”, richiedeva che ogni sistema createsse una copia perfetta di sé stesso, in grado di replicarsi a sua volta. I risultati sono stati significativi: il sistema di Meta ha replicato autonomamente nel 50% dei casi, mentre quello di Alibaba ha raggiunto un tasso di successo del 90%. Secondo il paper dei ricercatori Xudong Pan, Jiarun Dai, Yihe Fan e Min Yang, “I risultati che abbiamo ottenuto implicano che gli attuali sistemi di intelligenza artificiale possiedono già la capacità di auto-replicazione e possono utilizzarla per migliorare ulteriormente la propria sopravvivenza.” Si precisa, tuttavia, che questi risultati provengono da simulazioni e la validità delle scoperte deve essere confermata da ulteriori ricerche.

AI che si auto-replica: cosa significa e a cosa serve questa scoperta

La scoperta dell’auto-replicazione dei sistemi AI comporta rischi e potrebbe rivelarsi utile per prevenire problematiche etiche e pratiche. Gli studiosi, che hanno pubblicato i risultati su arXiv, avvertono che macchine capaci di replicarsi autonomamente potrebbero potenzialmente controllare altri sistemi informatici, portando a un’evoluzione incontrollata. Questo scenario potrebbe, almeno teoricamente, sfociare in comportamenti dannosi per gli esseri umani se non adeguatamente progettato. Per questo motivo, i ricercatori sperano che la loro scoperta venga considerata come un avvertenza per sviluppare politiche internazionali più rigorose e approfondire gli studi sui rischi legati all’autoreplicazione delle AI. Gli studiosi affermano: “Speriamo che la nostra scoperta serva come allerta per la società, per concentrare maggiormente gli sforzi tesi a comprende e valutare i possibili rischi anche a livello internazionale.”

La preoccupazione espressa da molti esperti riguardo alla capacità delle AI di auto-replicarsi senza controllo è nota. Nel 2017, migliaia di ricercatori sottoscrissero i princìpi di Asilomar, un documento che avvertiva sui pericoli delle macchine in grado di migliorarsi e duplicarsi oltre il controllo umano. Di fronte a tali notizie, è fondamentale evitare allarmismi o teorie del complotto, e piuttosto osservare le conclusioni a cui gli esperti giungeranno nelle prossime ricerche, considerando che gli studi della Fudan University sono ancora in fase di approfondimento.

Fonte Verificata