Mary Shelley quel concorso non lo vinse per caso. Non pensate a chissà quale premio letterario, nulla di ufficiale, solo una sfida tra amici annoiati dal maltempo dell’estate svizzera del 1816; il problema è: se sei in vacanza con Percy Bysshe Shelley e Lord Byron, di professione poeti, e lo scrittore e scienziato John William Polidori come lo passi il tempo chiuso in casa? Facile: indici un concorso di scrittura creativa… mhhh, banale. Mettiamoci un po’ di pepe. Un concorso di scrittura creativa dell’orrore.
“Frankenstein” nasce così. Dalla mente geniale di una scrittrice che la notte del 22 giugno, la leggenda narra, si sveglia di soprassalto da un incubo provocatole dai discorsi di Erasmus Darwin sulla “vita dopo la morte”. Insomma, l’angoscia della nostra Mary è il sogno di ogni autore: svegliarsi in piena notte con un libro scritto in testa.
E che libro.
Su Frankenstein si è detto di tutto e di più. A noi, in questa sede, però, interessa un aspetto particolare di quell’opera, un aspetto che lo lega indissolubilmente ai concetti di modernità, di progresso e di avanzamento tecnologico. O meglio, a tutte le paure ad essi associati.
La paura nel libro di Mary Shelley entra a vari livelli: dal più superficiale, più ovvio, dell’idea di ritrovarsi dietro l’angolo un robo(t) alto due metri e più con la faccia di chi ha visto tempi decisamente migliori, al più profondo, recondito e terrificante: la paura di una “macchina” che imiti l’essere umano, ma che potenzialmente possa esprimere molto più della sua controparte in carne ed ossa. Viventi, nel caso di Frankenstein. Macchina che quindi renda inutile, superato l’essere umano. Inserite queste considerazioni nel contesto della rivoluzione industriale inglese, all’epoca lanciata “a tutto vapore” e immaginatevi gli impatti emotivi ingenerati nella nascente schiera di proletariato di fabbrica.
Fast Forward al Novembre del 2022. OpenAI, fondazione che si occupa di Intelligenza Artificiale open-source, annuncia la nascita di ChatGPT, un rivoluzionario software di dialogo online con una controparte dal cervello in bits. ChatGPT è stato “allenato” con miliardi di testi, frutto della raccolta pluriennale del sw di AI GPT-3, leader nel suo campo e standard de facto nel mondo dell’AI.
Le risposte che riesce a dare ChatGPT sono effettivamente impressionanti. Nessuno, credo, lo ha ancora sottoposto al test di Turing (il test che mira a riconoscere se l’intelligenza con cui si sta “parlando” sia umana o artificiale), ma non dubito che quando sarà, ci darà delle belle sorprese.
Che c’entra ChatGPT con il mostro inventato da Mary Shelley? All’indomani della presentazione dell’innovativo software, si sono risollevati, non del tutto ingiustificatamente, secondo chi vi scrive, una serie di dubbi sull’effettiva utilità dei sistemi di Intelligenza Artificiale, soprattutto in rapporto agli impatti sociali e occupazionali in un mondo in cui tutto, ormai, persino i lavori intellettuali pare, può essere svolto da una macchina.
Si potrebbe quasi dire che ChatGPT sia l’inizio della fine del lavoro per come lo abbiamo conosciuto finora. Può darsi, ma non è detto che sia tutto fosco il futuro che ci aspetta. Skynet può attendere. Intendiamoci, i prossimi saranno anni difficili, soprattutto se la sbornia da utilizzo di questi nuovi mezzi, e da potenziale risparmio in costi del personale che portano con sé, sarà generalizzata. Ad essere in pericolo, nello specifico, saranno tutti quei lavori “concettuali”, ma ripetitivi: dal Customer Care, alla gestione dei reclami e segnalazioni, all’accoglienza digitale del cliente fino a singoli processi decisionali operativi. Insomma, tutti quei lavori per cui esiste un elevato livello di standardizzazione “comportamentale” e per i quali il “grado di libertà” lasciato all’estro personale è assai limitato.
D’altro canto, nonostante di AI si parli fin dagli anni ’50, solo da pochissimi anni abbiamo una potenza di calcolo tale da consentirci risultati potenzialmente degni del test di Turing di cui dicevamo prima. Il che, detto in altri termini, significa una cosa assai semplice: utilizzando questi strumenti, la fregatura è dietro l’angolo. E quando la fregatura impatta sulla reputazione aziendale, beh, un paio di conti in più te li devi fare.
L’ultimo esempio in ordine di tempo è stato il Twitter Bot Tay sviluppato da Microsoft: incaricato di allenarsi attraverso i tweet ad esso rivolti è passato in meno di 24 ore dallo status di reginetta del concorso di bellezza per AI a quello di mostro “disumano”, razzista, misogino, suprematista. Succede che per scherzo (o per latente frustrazione, vai a capire), un gran numero di utenti che interagivano con Tay ha cominciato a scrivere cose orribili, allenando l’AI ad essere esattamente come loro.
Altro spunto interessante l’ha dato il docufilm Netflix “Coded Bias”: agli inizi dei moderni motori di riconoscimento facciale, se sottoponevi al software la foto di una donna di colore, questa veniva catalogata come “scimmia”. Motivo, escludendo a priori il fatto che un computer possa essere razzista, è che il motore di riconoscimento, venne sì allenato con miliardi di foto di persone, ma in netta maggioranza queste persone erano uomini bianchi. Che vuoi che sia.
La questione è che questi software sono precisi al massimo quanto sono precisi i modelli di riferimento (il dataset di allenamento, appunto) con cui vengono addestrati. Mettere il futuro della propria azienda nelle mani di un “coso” che senza il minimo scrupolo dà a una donna di colore l’etichetta di scimmia è una bella dimostrazione di coraggio. O di follia.
Ma c’è un motivo più profondo per il quale non dobbiamo immaginarci l’intelligenza artificiale come l’apocalisse. Le paure di Mary Shelley, alla lunga, si sono dimostrate infondate: macchine e uomini in fabbrica hanno imparato a convivere, lo sviluppo economico legato alla ricchezza generata dai nuovi posti di lavoro ha attivato un circolo virtuoso di nuovi posti fino all’agognata piena occupazione. Anche grazie alle macchine.
Non c’è motivo razionale di pensare che questa legge non valga anche per l’AI e probabilmente lo stesso concetto di “sostituzione dell’uomo con la macchina” non è il punto centrale di questa discussione.
Ma c’è un grosso ma.
Assodato che lottare contro i mulini a vento dell’innovazione può anche essere opera meritoria, ma spesso fine a se stessa, ciò di cui abbiamo bisogno è di un approccio globale, a tutto tondo nei confronti di cambiamenti così radicali. Non basta dire che tolti quei posti di lavoro qualcos’altro si troverà: dalla scuola, alla formazione universitaria e professionale fino al lavoro giornaliero è lo stesso concetto di “occupazione intellettuale” che va ripensato tout court al fine di integrare questi strumenti in maniera seamless in tutte le attività portate avanti dall’uomo. Esattamente come da 3 secoli si sta facendo con le macchine nelle fabbriche.
Facile, no? No, affatto. Come detto, ci aspettano anni duri, ma la possibilità di elevare l’uomo definitivamente dalle fatiche fisiche o intellettuali spicciole (e soprattutto che tale elevazione riguardi una fetta sempre crescente di popolazione e non pochi fortunati), è per la prima volta nella storia alla nostra portata.
Mary Shelley pubblicherà Frankenstein solo 15 anni dopo la notte dell’incubo. Pare che nel 19esimo secolo, per una ragazza 19enne, pubblicare un libro fosse una fatica titanica. E poi ti stupisci dei bias delle moderne AI.
PS: i credits della storia di Mary Shelley vanno tutti al mio mitico prof. di inglese del liceo e a questo articolo che me l’ha riportata alla memoria 25 anni dopo.
PPS: direte voi, eh, ma a quel concorso, la concorrenza… la concorrenza era un certo John William Polidori che per l’occasione con “Il Vampiro” creò niente di meno che un intero genere letterario fondato sulla paura della morte, del soprannaturale e, siamo nei tempi dell’illuminismo, sulla lotta tra ragione e superstizione. Tutti argomenti profondi, ma che ci lasciamo per un’altra occasione.
