Recentemente mi è capitato di parlare degli impatti dell’Intelligenza Artificiale (IA) in ambiente scolastico con insegnanti e genitori e ho notato che la maggior preoccupazione rispetto a questi nuovi strumenti riguarda il fatto che gli studenti e le studentesse li utilizzino per copiare e che non siano quindi più in grado di scrivere un testo o condurre un’analisi critica. Una preoccupazione che ai miei tempi destava Wikipedia, ma ovviamente in quel caso scoprire l’imbroglio era molto più facile.
Cyber e Ia, le frontiere inaspettate
Esiste però un’altra deriva dell’utilizzo delle IA da parte delle giovani generazioni di cui si parla ancora poco, che ha conseguenze ben più gravi di un tema copiato, e che affonda le sue radici nella cultura patriarcale.
La notizia arriva dagli Stati Uniti dove nelle scuole superiori sono frequenti i casi di studenti (maschi) che modificano fotografie delle loro compagne, rendendole sessualmente esplicite con programmi “nudificanti” che utilizzano la tecnica del deep fake, per poi farle circolare in mensa, sul bus e sulle piattaforme di messaggistica.
Il deep fake non è una novità, ma è apparso per la prima volta nel 2017 sulla piattaforma Reddit dove un utente, che si faceva chiamare appunto “Deep fakes”, ha pubblicato per un periodo scene di film in cui alcuni attori venivano sostituiti con altri (l’ immancabile Nicolas Cage, ad esempio) in modo molto realistico.
I rischi del deepfake
Da strumento di intrattenimento la tecnica del deepfake è ben presto diventata un mezzo per creare contenuti tutt’altro che divertenti. Utilizzato per creare fake news, screditare personaggi famosi o politici, compiere atti criminali e di cyberbullismo oggi, anche a causa della vicenda che ha visto coinvolta Taylor Swift, è diventato tristemente noto nelle sue due varianti del deep porn e deep nude che consistono nel sovrapporre visi di persone riconoscibili a spezzoni di film pornografici o “svestire” le foto ricreando l’immagine con il corpo nudo.
L’avvento dell’IA ha fatto esplodere il fenomeno rendendo i programmi di deep fake più economici e accessibili, senza contare che man mano che i software diventano più sofisticati è più difficile rendersi conto che quella che stiamo guardando è un’immagine falsa.
Un’arma di denigrazione?
Nonostante i fatti mostrino come ormai il deep fake sia diventato un’arma di denigrazione e umiliazione, con anche casi di revenge porn in cui sono state utilizzate immagini create con l’IA, la consapevolezza rispetto a questi temi sembra ancora insufficiente.
Ciò che più colpisce delle vicende dei tre licei statunitensi riportate dal New York Times è quanto le scuole fossero impreparate a gestire la faccenda, non solo sul fronte nuove tecnologie ma anche su quello della violenza di genere.
Casi al limite
Presso la Issaquah High School, nello stato di Washington, dopo che alcuni genitori avevano denunciato la circolazione di foto esplicite generate con l’IA delle figlie la funzionaria scolastica, di fronte alla domanda del detective sul perché non avesse riportato il fatto alla polizia, ha chiesto “che cosa esattamente avrebbe dovuto riportare”.
Un fatto gravissimo se pensiamo che le immagini ritraevano studentesse minorenni, e che dunque il crimine non si configurava solo come cyberbullismo e violenza di genere ma anche come un caso di abuso su minori.
Anche nel caso del liceo di Westfield, New Jersey, la scuola non è stata all’altezza nel gestire la vicenda. Secondo quanto riportato da Francesca Mani, una delle studentesse coinvolte nella condivisione di immagini di deep nude, in seguito alla denuncia l’amministrazione scolastica si è limitata a prendere discretamente da parte i bulli per chiedere spiegazioni mentre lei e le altre ragazze che avevano subito il fatto sono state invitate a recarsi in segreteria venendo chiamate per nome, attraverso gli altoparlanti della scuola.
Alla fine di marzo l’FBI ha dichiarato in una nota che qualsiasi materiale generato con l’IA a danni di minori è da considerarsi illegale e ne è vietata la creazione e la condivisione.
Quando l’Ia serve al bullismo
“Secondo gli esperti di abusi su minori” scrive il NYT “l’utilizzo di immagini non consensuali e generate con I’IA con lo scopo di molestare, bullizzare e umiliare le giovani donne può avere effetti gravi sul loro stato di salute mentale, sulla loro reputazione e sulla loro sicurezza fisica e ostacola le loro prospettive universitarie e lavorative”.
“È necessario aggiornare le politiche scolastiche” ha dichiarato Francesca mani al NYT. “Se la scuola fosse preparata su questi temi studentesse come me sarebbero state tutelate.”
Se la legislazione, sia essa scolastica o statale, è un fattore necessario nel contrasto alla violenza e agli abusi informatici non è però sufficiente.
È fondamentale innanzitutto un cambio di paradigma sociale e culturale che sradichi la cultura patriarcale, la cultura dello stupro e la concezione diffusa che vede il corpo femminile come un semplice oggetto di cui i maschi possono disporre a loro piacimento.
I rimedi
C’è bisogno, fin dall’infanzia, di un’educazione sessuale ed affettiva che insegni ai ragazzi e alle ragazze a relazionarsi in modo consensuale e rispettoso dell’altra persona nella sua interezza.
“Mi spiegate come si fa a immaginarsi scambi online non-violenti e non-discriminanti se la prevenzione della violenza di genere non entra a far parte del nostro bagaglio formativo?” chiede provocatoriamente Lilia Giugni nel saggio La rete non ci salverà. Perché la rivoluzione digitale è sessista( e come resistere).
Se vogliamo evitare che i nuovi strumenti digitali diventino sempre di più armi contro la libertà e la dignità delle persone credo che dovremmo partire proprio da qui.