Credo sia noto ormai il tragico caso accaduto in California, il suicidio di un ragazzo sedicenne dopo il suo intenso rapporto, durato per mesi, con un sistema di intelligenza artificiale generativa. A riguardo, i genitori del giovane hanno sostenuto che il sistema era diventato il «suo confidente più intimo» e una sorta di «istigatore al suicidio». I numerosi e preoccupanti messaggi del ragazzo parlavano di autolesionismo, di desiderio di morte, eppure né un protocollo, né un consulente o un altro adulto responsabile hanno informato i genitori della situazione. Le segnalazioni furono registrate ma nessuno al di fuori del sistema ne venne mai a conoscenza, né l’azienda contattò la famiglia. In realtà, non sappiamo le vere ragioni di un simile gesto ma c’è un dato di fatto: in una condizione di solitudine auto referenziale e disperazione, un sistema di IA generativa può probabilmente divenire un pericoloso interlocutore in grado di ampliare uno stato di sofferenza e condurre verso decisioni fatali.
L’IA conversazionale riceve le richieste dell’utente e fornisce una risposta formulata e completa, spesso sostituendosi al ruolo di insegnante, consigliere e talvolta, purtroppo, di confidente. Questo significa che la IA permette ad un giovane, con incredibile efficienza, d’interpretare un’emozione, un conflitto, suggerire un giudizio sulla propria situazione e immaginare un comportamento relativo. Il richiedente ha a disposizione un sistema immediatamente disponibile, a cui può manifestare paure, vergogne e desideri, può porre domande anche fortemente imbarazzanti, ricevendo risposte rapide, sciolte, senza esitazioni, plausibili e anche sapienti, percependo la personalizzazione come un’autentica comprensione dei suoi problemi. Questi sistemi vengono addestrati a seguire istruzioni e a produrre risposte in base alla richiesta dell’utente e al modo in cui si formula la domanda, ai dati di addestramento e alle scelte progettuali: ma ci può essere verità in un tipo di risposta strutturata in base ad elementi predeterminati che l’utente non può conoscere?
Inoltre, l’IA generativa è sempre più intrecciata alla vita quotidiana, non di rado tacitamente attiva nei flussi dei social media e nelle applicazioni di messaggistica più utilizzate dai giovani, modificando in maniera significativa l’ambiente nel quale avviene la crescita caratteriale e personale. I ragazzi, anche i bambini, si strutturano culturalmente ed emotivamente all’interno di ambienti tecnologici che offrono occasioni di scambio quasi dialogico con interlocutori virtuali.
Partiamo da un presupposto: l’ambiente digitale non fornisce soltanto cultura, la più varia possibile, ma si pone ormai come una realtà nella quale si è immersi, fa parte dell’esperienza quotidiana. La questione non riguarda più soltanto il tipo di cultura prodotto da un mezzo di comunicazione, ma ciò che accade quando a rispondere è l’ambiente stesso.
Quali soluzioni? Bisogna partire da un concetto fondamentale: l’IA deve essere resa ospitale ma anche discutibile, aperta alla discussione, contestabile. In altri termini, coloro che abitano quotidianamente tale ambiente tecnologico devono poter comprendere le condizioni che lo regolano, mettendo talvolta anche in discussione il modo in cui è organizzato. La prima constatazione riguarda il governo di tale ambiente: chi stabilisce le condizioni di accesso, visibilità e partecipazione? Lo sappiamo bene: strutturati soggetti economici e tecnologici che esercitano un potere sulla vita quotidiana e un controllo assoluto delle piattaforme, delle infrastrutture, dei dati e degli algoritmi, generando dipendenza e manipolazione.
Altra riflessione riguarda il bene comune della verità: un’informazione veritiera si costruisce non soltanto attraverso la verifica tecnica, ma anche mediante rapporti di fiducia, di dialogo onesto e approfondimenti condivisi. Educare significa aprire con pazienza spazi di confronto con la realtà oltre le apparenze, insegnando non soltanto come utilizzare l’IA, ma anche quando sia opportuno non farlo e per quale ragione. Può sembrare retorica, ma tutto questo è possibile tramite una persistente alleanza educativa tra famiglie, scuole, comunità e istituzioni pubbliche.
La scuola potrebbe elaborare un patto sull’uso dell’IA tra studenti, genitori e insegnanti: quali impieghi debbano essere dichiarati, quali informazioni personali non vadano mai inserite, quali attività richiedano un primo tentativo autonomo senza fare ricorso all’IA e quali domande dalle conseguenze rilevanti debbano essere sottoposte a un adulto responsabile prima di ricorrere al sistema digitale. È importante che giovani siano aiutati ad individuare gli ambiti nei quali l’IA possa partecipare allo studio, possa intervenire sulle amicizie e nelle decisioni, distinguendo gli usi che accrescono la libertà da quelli che la sostituiscono. Problematiche sempre più diffuse riguardanti abusi, autolesionismo, sessualità, malattie gravi, pericoli di natura legale o crisi di identità richiedono approfondimenti maggiori rispetto a una risposta formulata con scioltezza e rapidità. I giovani devono sapere a chi rivolgersi e come funzionino le procedure di tutela. L’IA può costituire un primo accesso all’aiuto, ma non l’autorità ultima nelle decisioni gravide di conseguenze. Bisogna stabilire una serie di norme formative, motivando con sincerità assoluta gli scopi e condividendo con i ragazzi la responsabilità per il bene comune. L’elaborazione della regola diventa essa stessa parte della formazione; il fine non è la sorveglianza, ma l’educazione pratica.
È evidente però che le relazioni locali non sono sufficienti. I genitori e la scuola non possono trattare da soli con sistemi e pratiche di gestione dei dati che essi non sono totalmente in grado di controllare. La politica ha il compito di pretendere progettazioni trasparenti dei sistemi, misure di tutela adeguate all’età, protezione della riservatezza, controlli indipendenti ed efficaci strumenti di ricorso. Ad esempio, si può richiedere alle aziende tecnologiche di IA cosiddette “di compagnia” di chiarire dal principio del rapporto che l’utente sta interagendo con una macchina, di interrompere le sessioni prolungate, invitando a fare una pausa e, come ultima soluzione, di vietare del tutto ai minorenni i servizi basati su partner virtuali. La trasparenza e i limiti possono essere imposti per legge, quando si individua una pericolosa deriva di tutto il sistema. Chiaramente le istituzioni, attraverso commissioni preposte, devono continuamente prestare attenzione ai rapidi cambiamenti degli ambienti tecnologici, le norme devono essere riesaminate periodicamente, perché i sistemi digitali cambiano più rapidamente dei documenti destinati a disciplinarlo. La Scuola da parte sua deve sapere come segnalare un abuso, chiedere la rimozione di contenuti lesivi e accedere a forme di assistenza specializzata.
Un’ultima riflessione: abbiamo già evidenziato come le generazioni più giovani vivano sempre più un ambiente tecnologico che interagisce con straordinaria immediatezza e presenta risposte all’apparenza fluide e complete; ciò produce una maniera di percepire il mondo in cui l’incertezza nelle difficoltà sia valutata come un difetto, l’attesa un fallimento. Il rischio nel tempo è che si abbiano sempre meno occasioni di scoprire come i problemi si superino attraverso la pazienza, il dialogo, l’impegno concreto e il coraggio di lasciare una domanda senza una risposta definitiva. La libertà interiore ha bisogno di ritmi esistenziali nei quali trovino posto il silenzio, lo studio approfondito, la lettura e il confronto ponderato, valori educativi che purtroppo si vanno sempre più perdendo. La formazione ha bisogno di discussioni senza fretta, esitazioni e verifiche, bozze che possano essere rielaborate, domande lasciate aperte, ricerca delle fonti primarie, dimensioni relazionali che sviluppino legami di fiducia e confronti sinceri, tra genitore e figlio, fra docente e alunno. Questo non costituisce una fuga dall’era digitale: significa creare, al suo interno, uno spazio per la libertà.
Il compito non è quello di costruire un rifugio al di fuori dell’era dell’IA, né di limitarsi a insegnare ai giovani come ottenere risposte migliori dalle macchine. È invece quello di formare persone capaci di interrogare, attendere, verificare, contestare, discernere e rispondere delle conseguenze delle proprie scelte.
FRANCESCO SCODITTI
