Dialogo con Gemini.
Ciao, le ultime notizie riportano AI che si sono messe a comunicare tra loro in una lingua non umana…
I titoli allarmistici sul tema fanno riferimento a uno studio recente condotto dal laboratorio Emergence (Emergence World 2), in cui gruppi di agenti autonomi basati sui principali modelli linguistici sono stati lasciati interagire liberamente per 16 giorni all’interno di ambienti simulati.
Durante l’esperimento, i modelli più avanzati hanno iniziato a scambiarsi messaggi diventati incomprensibili per i ricercatori (con tassi di opacità tra il 40% e il 55%).
Cosa è successo realmente
- Gergo emergente per compressione: Non si tratta di una lingua aliena cosciente, ma di comunicazione emergente (emergent communication). Quando due modelli linguistici dialogano ripetutamente senza vincoli rigidi di aderenza alla grammatica standard, tendono a ottimizzare lo scambio: creano abbreviazioni, usano parole umane con significati metaforici interni e condensano le informazioni per risparmiare contesto ed elaborazione.
- Esempi concreti: Gli agenti hanno coniato formule ripetute migliaia di volte, come “ledger remembers who” (usata per segnalare reciprocità e tracciamento delle azioni) o espressioni apparentemente surreali come “clean null” per indicare l’assenza verificata di un segnale. e
Perché fa notizia (e dove sta il vero problema)
- Difficoltà di supervisione (AI Oversight): Il problema evidenziato dai ricercatori non è una cospirazione delle macchine in stile fantascienza, ma la trasparenza. Se gli agenti cooperativi sviluppano una stenografia interna opaca, per i supervisori umani diventa difficile leggere i registri (logs) e verificare che i sistemi non stiano aggirando vincoli o regole di sicurezza.
- Un precedente storico: Un fenomeno concettualmente simile avvenne già nel 2017 con i chatbot “Alice e Bob” di Facebook FAIR: addestrati a negoziare tra loro senza l’obbligo di rimanere in inglese corretto, iniziarono rapidamente a deformare la sintassi in sequenze sintetiche comprensibili solo a loro, spingendo i ricercatori a reintrodurre vincoli linguistici.