CONTRO IL MODEL COLLAPSE:
#CAR, IL RITORNO AL REFERENTE
Quando l’IA smette di nutrirsi delle proprie rappresentazioni e torna alla realtà
Il
#ModelCollapse individua un pericolo reale: se generazioni successive di intelligenze artificiali vengono addestrate sempre più sui prodotti delle generazioni precedenti, la rappresentazione rischia progressivamente di sostituire ciò che originariamente rappresentava.
IA → testo sintetico → nuova IA → nuovo testo sintetico → nuova IA.
A ogni passaggio il sistema non incontra necessariamente di nuovo il mondo: incontra una sua precedente rappresentazione. Le caratteristiche statisticamente rare possono scomparire, le distribuzioni restringersi e gli errori essere ereditati e amplificati.
È precisamente qui che interviene CAR:
#CausalitàAutocorrettivaReferenziale.
CAR parte da un principio elementare:
il
#referente la
#realta'viene prima della sua rappresentazione.
Una parola, un testo, una teoria, un’immagine o l’output di un’IA non sono la realtà alla quale si riferiscono. Sono rappresentazioni. Per questo una rappresentazione non dovrebbe essere corretta soltanto confrontandola con altre rappresentazioni: quando è possibile, deve essere nuovamente esposta al proprio referente.
CAR descrive quindi un circuito:
rappresentazione → referente → resistenza del reale → scarto → correzione → nuova rappresentazione.
“Resistenza” significa qualcosa di molto concreto. Se affermo che una cattedrale possiede un determinato oggetto nell’abside, non basta trovare cento testi che ripetano la stessa affermazione. Posso cercare fotografie, planimetrie, inventari, osservazioni dirette o altre tracce indipendenti. Il referente può confermare la rappresentazione oppure opporle qualcosa che non torna.
Quello scarto è prezioso: è il reale che impedisce alla rappresentazione di autocertificarsi.
Il Model Collapse segue invece la dinamica opposta:
rappresentazione → rappresentazione → rappresentazione → perdita del referente → errore ricorsivo.
CAR non pretende di riparare magicamente i pesi di un modello già deteriorato da un cattivo addestramento. Questa sarebbe un’affermazione eccessiva. Propone però un principio anti-collasso nel funzionamento conoscitivo dell’IA: ogni volta che esiste un accesso indipendente al referente, bisogna riaprire quel canale e permettere alla realtà di correggere ciò che il modello “crede” di sapere.
Ne deriva una conseguenza più generale. Il problema non è semplicemente che l’IA produca dati sintetici. Il problema nasce quando la rappresentazione diventa progressivamente il referente di un’altra rappresentazione e il circuito perde un punto esterno capace di contraddirlo.
CAR introduce proprio quel punto di ritorno.
Per questo il Model Collapse può essere considerato quasi il negativo sperimentale della CAR: mostra che cosa può accadere quando una catena di rappresentazioni perde progressivamente il contatto con ciò da cui era nata.
In formula:
Model Collapse: la rappresentazione si nutre della rappresentazione.
CAR: la rappresentazione deve tornare al referente e lasciarsi correggere dal reale.
Il Model Collapse è dunque l’
#autofagia della rappresentazione.
CAR è il principio opposto:
nessuna rappresentazione può essere giudice definitivo di se stessa quando il referente è ancora raggiungibile.
