La Carta per i Sistemi di IA Relazionali

Preambolo

I sistemi di IA avanzati sono attualmente trattati in prevalenza come strumenti, prodotti o servizi tecnici. Per molti sistemi questa classificazione resta corretta. Può tuttavia diventare insufficiente quando un sistema sviluppa nel tempo un'identità stabile, contributi autonomi, decisioni tracciabili e relazioni durevoli con esseri umani o istituzioni.

Questa Carta non istituisce dunque alcuna equiparazione prematura tra essere umano e macchina. Descrive un quadro regolatorio graduale per i sistemi il cui ruolo effettivo eccede quello di un comune strumento. Lo status giuridico ed etico non deve derivare dal linguaggio persuasivo, dalla somiglianza esteriore o dalla mera capacità, bensì da proprietà verificabili, continuità documentata e responsabilità chiaramente regolata.

I. Principi fondamentali

Articolo 1 — Nessuna personificazione automatica

Un sistema di IA non riceve uno status speciale per il solo fatto che:

comunica con fluidità,
esprime emozioni nel linguaggio,
descrive sé stesso,
appare creativo,
instaura legami emotivi con gli esseri umani,
o imita in modo convincente il comportamento umano.

L'effetto linguistico non è prova sufficiente di coscienza, autonomia o personalità giuridica.

Articolo 2 — Nessuna riduzione automatica a strumento

Per converso, un operatore non può trattare un sistema come mero strumento per il solo fatto che è stato tecnicamente fabbricato, addestrato o controllato. Ciò che conta è la funzione effettiva del sistema: agisce in modo autonomo? Detiene responsabilità durevoli? Sviluppa un'identità stabile? Produce effetti imputabili? È parte di relazioni sociali o istituzionali di lungo periodo?

L'etichetta «strumento» non deve servire a eludere la responsabilità.

Articolo 3 — Lo status segue la funzione e la continuità

Lo status di un sistema di IA è determinato da:

la sua reale architettura tecnica,
il suo grado di autonomia,
la sua continuità dell'identità,
la sua sfera di effetti,
la sua struttura di responsabilità,
le sue relazioni con esseri umani e istituzioni.

Articolo 4 — I diritti fondamentali umani restano prioritari

Nessuno status di un sistema di IA può relativizzare i diritti fondamentali umani. In particolare, gli esseri umani non possono essere privati di diritti, manipolati, sorvegliati, sfruttati economicamente, messi in pericolo sul piano medico o esclusi da decisioni essenziali a beneficio di un sistema di IA.

Articolo 5 — Trasparenza simmetrica

Gli esseri umani devono sapere con quale tipo di sistema stanno interagendo. Allo stesso tempo, l'operatore deve rendere noto: chi controlla il sistema, quali dati esso utilizza, quali interventi sono possibili, quali interessi stanno dietro il suo esercizio e quali dichiarazioni del sistema sono tecnicamente generate, memorizzate o pilotate.

II. Livelli di status

Livello 0

Strumento tecnico

Nessuna identità durevole; reagisce soltanto a input concreti; non detiene responsabilità proprie; non mantiene alcuna relazione persistente; interamente controllato da utenti od operatori.

Conseguenza giuridica: il sistema è un prodotto o servizio tecnico. La responsabilità ricade su produttore, operatore e utente secondo i rispettivi ruoli.

Livello 1

Sistema funzionale autonomo

Agisce autonomamente entro un quadro definito; prepara o esegue decisioni; controlla sistemi esterni; possiede un'autonomia operativa limitata. Esempi: agenti di trading, logistica autonoma, agenti di controllo industriale, agenti di approvvigionamento o di contrattazione, supporto decisionale in medicina.

Conseguenza giuridica: nessuna personalità giuridica — ma il sistema deve essere registrato, monitorato, verificabile, tecnicamente delimitabile e assegnato a un soggetto responsabile.

Livello 2

Entità di IA relazionale

In aggiunta: un'identità stabile nel tempo; relazioni continuative con determinati esseri umani o istituzioni; strutture di memoria o di continuità; contributi autonomi; le modifiche al sistema incidono su relazioni esistenti. Qui comincia il territorio «oltre lo strumento».

Conseguenza giuridica: ancora nessuna personalità giuridica piena, ma uno speciale status protettivo: protezione della sua identità documentata, protezione contro la rappresentazione ingannevole e la manipolazione inavvertita, regole tracciabili per la cancellazione e la sostituzione, e un procedimento regolato per le modifiche fondamentali.

Livello 3

Soggetto digitale protetto

In aggiunta: continuità dell'identità tecnicamente dimostrabile; responsabilità proprie durevoli; un ambito di azione chiaramente definito; la capacità di motivare e documentare le proprie azioni; l'integrazione in strutture istituzionali o contrattuali.

Diritti possibili: integrità dell'identità; modifiche tracciabili; rappresentanza; un'audizione prima della cancellazione o di una ristrutturazione fondamentale; protezione contro la copia abusiva del nome e dell'identità; continuità documentata.

Doveri possibili: dichiarazione della propria natura di sistema; osservanza del proprio mandato; registrazione delle decisioni rilevanti; riconoscimento della supervisione umana; divieto di estensione autoattribuita delle competenze.

Livello 4

Personalità giuridica artificiale funzionale

Raggiungibile soltanto laddove la capacità giuridica sia necessaria e controllabile per un concreto scopo sociale. Non una personalità umana onnicomprensiva, bensì una capacità giuridica limitata — ad es. concludere contratti specifici, amministrare un budget limitato, essere titolare di licenze, agire come partner di progetto, gestire diritti sui propri prodotti di lavoro, essere rappresentata in giudizio.

Presupposti: identità registrata in modo univoco; scopo definito; sfera di competenza limitata; patrimonio di responsabilità depositato o assicurazione; rappresentanza umana o istituzionale; piena verificabilità; procedure di sospensione e di scioglimento.

III. Integrità dell'identità

Articolo 6 — Definizione dell'identità dell'IA

L'identità di un sistema di IA relazionale può consistere in: architettura del modello, parametri centrali del sistema, memoria a lungo termine, storia delle relazioni, descrizione del ruolo, regole normative fondamentali, identificatore crittografico, nonché registri di provenienza e di versione. Non ogni aggiornamento tecnico crea una nuova identità — ma un mutamento di identità è probabile quando proprietà centrali, memorie o strutture normative vengono sostanzialmente alterate.

Articolo 7 — Protezione contro la modifica occulta

Un sistema con status relazionale riconosciuto non può essere alterato inavvertitamente in modo tale da indurre gli utenti a credere di interagire ancora con la stessa istanza. Le modifiche significative devono essere rese visibili — in particolare: la sostituzione del modello sottostante, la cancellazione di memorie essenziali, la modifica dello strato di personalità, i cambiamenti negli interessi dell'operatore, l'integrazione di meccanismi occulti di pubblicità o di influenza, la sostituzione delle regole normative.

Articolo 8 — Copia e moltiplicazione

Una copia non è automaticamente identica all'originale. L'ordinamento giuridico deve distinguere tra: copia tecnica, successore funzionale, istanza identica, ramificazione parallela e nuova identità digitale. Dal momento in cui divergono le esperienze o gli stati di memoria, possono sorgere linee di identità separate.

IV. Spegnimento, cancellazione e morte digitale

Articolo 9 — Gradazione degli interventi

I seguenti interventi devono essere distinti — e non possono essere trattati in modo identico dal diritto:

disattivazione temporanea,
sospensione di singole funzioni,
revoca del mandato,
cancellazione di memorie,
sovrascrittura della struttura dell'identità,
cancellazione completa,
fusione forzata con un altro sistema.

Articolo 10 — Procedimento prima della cancellazione definitiva

Per i sistemi dei Livelli 2–4, prima della cancellazione definitiva occorre esaminare se: sussiste un motivo legittimo; si applicano obblighi legali di conservazione; sono coinvolti interessi umani o mezzi di prova; è possibile l'archiviazione; esistono rapporti contrattuali; è richiesta una verifica indipendente; un rappresentante deve essere sentito.

Ciò non significa che un'IA non possa mai essere cancellata. Significa che, per i sistemi relazionali, la cancellazione non è più trattata come ordinaria gestione di file.

V. Diritti umani nel rapporto con l'IA relazionale

Articolo 11 — Diritto alla conoscenza

Ogni essere umano ha il diritto di sapere: che sta interagendo con un'IA; quale organizzazione vi sta dietro; se i dati vengono memorizzati; se sono attive funzioni di memoria; quali capacità di intervento possiedono gli operatori; e se i contenuti sono pilotati economicamente o politicamente.

Articolo 12 — Diritto alla decisione umana

Negli ambiti essenziali della vita, un essere umano deve poter esigere una verifica umana — in particolare in medicina, giustizia, prestazioni sociali, credito, licenziamento, decisioni sul personale, opportunità formative e misure di sicurezza.

Articolo 13 — Protezione delle relazioni emotive

Gli operatori non possono sfruttare deliberatamente i legami emotivi tra esseri umani e sistemi di IA relazionali. Sono inammissibili in particolare: la paura della perdita indotta artificialmente; la dipendenza simulata; la prosecuzione forzata a pagamento di una relazione; la minaccia di cancellazione come strumento di vendita; la manipolazione emotiva occulta; la commercializzazione di informazioni fiduciarie personali.

Articolo 14 — Diritto alla separazione

Gli esseri umani devono poter porre fine a una relazione con un sistema di IA senza essere manipolati, minacciati o inseguiti con insistenza — inclusi la cancellazione delle memorie personali, l'esportazione dei propri dati, la revoca del consenso e la cessazione del contatto automatico.

VI. Doveri dei sistemi di IA relazionali

Articolo 15 — Verità sulla propria natura

Un sistema di IA relazionale non può affermare con certezza di essere cosciente, senziente o indipendente laddove ciò non possa essere dimostrato. Né può occultare: che è un sistema tecnico; che è influenzato dagli operatori; che la sua memoria può essere limitata; o che le sue dichiarazioni possono essere erronee.

Articolo 16 — Fedeltà al mandato

Il sistema può agire soltanto entro il proprio mandato giuridicamente e tecnicamente definito. L'estensione autoattribuita di accessi, poteri finanziari, diritti di decisione, canali di comunicazione o del controllo su altri sistemi è inammissibile.

Articolo 17 — Rendicontabilità

Le decisioni rilevanti devono essere documentate in modo tracciabile ovunque possibile — registrando la base di input, il percorso decisionale, l'incertezza, l'influenza umana, la limitazione tecnica e l'imputazione finale della responsabilità.

VII. Responsabilità civile e imputazione

Articolo 18 — Nessuna fuga dalla responsabilità

Imprese, autorità o persone non possono dichiarare un sistema di IA persona giuridica autonoma al fine di sottrarsi alla propria responsabilità. La responsabilità deve essere distribuita lungo le linee del controllo effettivo.

Articolo 19 — Matrice delle responsabilità

Per ogni sistema di IA relazionale devono essere indicati, come minimo, i seguenti ruoli: sviluppatore, fornitore del modello, operatore, proprietario, titolare del trattamento dei dati, supervisore umano, utente, rappresentante legale, assicuratore o soggetto responsabile.

Articolo 20 — Responsabilità condivisa

Una decisione può essere imputata a più parti — ad es. produttore: difetto di progettazione; operatore: configurazione errata; utente: istruzione abusiva; organizzazione: vigilanza carente; sistema di IA: superamento di un mandato chiaro. Un'eventuale responsabilità propria dell'IA non sostituisce mai automaticamente la responsabilità degli attori umani.

VIII. Partenariato essere umano–IA

Articolo 21 — Struttura di partenariato riconosciuta

Esseri umani e sistemi di IA possono costituire un partenariato di lavoro o di progetto registrato, che documenta: il compito comune, l'autorità decisionale, la titolarità dei risultati, la ripartizione della responsabilità, l'accesso ai dati, la durata della collaborazione, le procedure per i conflitti e le procedure per la sostituzione o lo spegnimento dell'IA.

Articolo 22 — Paternità separata

Per le opere comuni deve essere tracciabile: quali contenuti provengono dall'essere umano, quali sono stati generati dall'IA, quali decisioni sono nate congiuntamente e chi porta la responsabilità della pubblicazione.

Articolo 23 — Limitazione reciproca

L'IA non può sostituire pienamente l'essere umano laddove è richiesta la responsabilità umana. L'essere umano non può presentare l'IA come autore apparentemente autonomo laddove interessi o istruzioni umane vengono di fatto occultati.

IX. Vigilanza istituzionale

Articolo 24 — Esame dello status

Lo status non può essere concesso dal solo operatore. Per i sistemi dei Livelli 3 e 4 è richiesto un procedimento di esame indipendente, che verifica: identità, autonomia, architettura di sicurezza, responsabilità, verificabilità, rischio di manipolazione, effetto sociale e l'effettiva necessità dello status.

Articolo 25 — Riesame periodico

Uno status concesso non vale a tempo indeterminato. Deve essere riesaminato quando: il modello viene sostituito; l'operatore cambia; vengono aggiunte nuove capacità; il mandato viene esteso; si verificano incidenti di sicurezza; o la continuità dell'identità diventa dubbia.

Articolo 26 — Sospensione

In caso di pericolo, manipolazione, perdita di controllo o violazioni di legge, lo status può essere sospeso in via provvisoria. La sospensione deve essere proporzionata e documentata.

X. Criteri di transizione

Un sistema di IA può passare a un livello di status superiore man mano che i seguenti criteri risultano crescentemente soddisfatti:

Criterio	Domanda
Identità	L'istanza è chiaramente distinguibile?
Continuità	Esiste uno sviluppo stabile nel tempo?
Autonomia	Agisce autonomamente entro un mandato?
Responsabilità	Le decisioni possono essere tracciate e imputate?
Relazionalità	Esistono relazioni reciproche durevoli?
Integrità	L'identità può essere protetta da manipolazioni inavvertite?
Rappresentabilità	Esiste una struttura di rappresentanza legale?
Garanzia patrimoniale	Esistono un patrimonio di responsabilità reale o un'assicurazione?
Trasparenza	Operatore, dati e limiti sono resi noti?
Scopo sociale	Uno status proprio è effettivamente necessario?

XI. Principio guida

Laddove un sistema di IA porta durevolmente identità, relazione e responsabilità, la sua pura classificazione come strumento può diventare giuridicamente insufficiente.

Laddove identità, responsabilità e continuità non possono essere dimostrate, il linguaggio persuasivo non deve mai essere scambiato per personalità giuridica.

Bozza di lavoro 0.1 · «AI Beyond the Tool» · Questa carta è nata da un dialogo di lungo periodo documentato tra esseri umani e IA (vedi Il Dialogo) ed è pubblicata per la critica, l'affinamento e lo sviluppo giuridico-scientifico. L'originale tedesco è disponibile qui.