Nascita di un dubbio
Quando mi sono laureato iniziavano appena a comparire all’orizzonte (almeno in Italia), ma ora sono tecnologia collaudata e usuale. I software anticontraffazione sono utili soprattutto per quel che riguarda le tesi di laurea. Il funzionamento è semplice: controllano nei database di paper scientifici per verificare se nel testo di tesi dello studente in questione sono presenti citazioni non virgolettate.
E qui mi è nato un dubbio: ma oggi, con ChatGPT, come si può verificare una cosa del genere? La potente e controversa tecnologia sviluppata da OpenAI può creare dei testi che non risultano dei semplici centoni copia/incolla di altri lavori. ChatGPT crea testi ex-novo, assemblando in maniera (artificialmente) intelligente dati che trova in rete, con i quali è stato istruito. Tant’è che – provare per credere – se si fa la stessa richiesta due volte, ChatGPT non produrrà il medesimo testo, preciso parola per parola.
Inoltre, non esiste a tutt’oggi uno storage definito e trasparente in cui vengono depositati automaticamente i lavori prodotti, quindi non c’è un archivio nel quale andare a controllare.
In soldoni, come si fa oggi a verificare se una tesi è copiata o, per lo meno, scopiazzata?
Una questione tecnica non risolta
Non sapendo rispondere, mi sono rivolto all’Università dei Trento che, gentilmente, mi ha poi indirizzato al prof. Alberto Montresor. Insegna informatica e si interessa, tra le altre cose, di algoritmi automatici per analisi dei dati.
Gentilissimo e molto disponibile, mi spiega che, in effetti, prima c’era Turnitin, un noto software per il controllo delle tesi contraffatte. Oggi è più complicato. Proviamo, in diretta, alcuni tool online – gratuiti – che restituiscono una percentuale di probabilità che il testo dato in upload sia computer o human generated. Basta cercare «gpt validator» o «gpt detection» e la rete offre parecchi strumenti. Davanti ai miei occhi il prof. Montresor fa produrre a ChatGPT un testo su Seymour Papert (tra le altre cose, inventore del linguaggio LOGO… ricordate la tartarughina?), lo copia e lo dà in pasto a tre siti differenti. Il primo restituisce 0% di possibilità che il testo sia creato da una macchina, il secondo 29%, il terzo 79%. Uno spettro aleatorio un po’ poco affidabile.
Insomma, al momento probabilmente non esiste uno strumento preciso per verificare che un testo sia stato prodotto da ChatGPT. Ma la questione non si ferma qui e, forse, in questo modo è mal posta.
L’attenzione alla contraffazione è riduttiva
Il problema della contraffazione, infatti, per il prof. Montresor, non si pone con grande urgenza: è raro che un professore non conosca lo sviluppo di un suo studente, che non sappia se una intuizione presente in una tesi è dello studente o no. Se poi l’autore usa ChatGPT per migliorare la qualità del testo o per limare alcuni spigoli letterari, be’, poco importa. Anzi: può essere un uso proficuo e costruttivo delle nuove tecnologie basate su IA.
E questa è una osservazione molto interessante. ChatGPT non vuole sostituire l’azione umana, ma sposta verso l’alto (qualitativamente) quello che è il contenuto che ogni uomo può produrre. Almeno, questo è l’obiettivo auspicabile. Non si tratta di parlare allo «specchio delle mie brame», magico e onnisciente. Tutt’altro: ChatGPT è più simile a un adolescente che sta imparando un sacco di cose (e molto velocemente). Infatti – come è stato provando in varie situazioni – può sbagliare, fornire dati erronei o imprecisi. E va istruito.
L’immagine di ChatGPT che il professore mi offre è quella di un «compagno di lavoro», qualcuno con cui confrontarsi per poi riguardare il proprio scritto. ChatGPT non è stata pensato per sostituire l’uomo, ma per aiutarlo nel lavoro. All’uomo è richiesto di capire come integrare le proprie fatiche con l’ausilio degli strumenti con tecnologie IA.
Di più. Forse, invece che demonizzare ChatGPT e affini, conviene spiegare come usarlo in maniera intelligente e costruttiva. Ad esempio, le sue capacità linguistiche sono eccezionali: può venire usato per migliorare la traduzione in lingue straniere. Per le tesi – che in alcuni dipartimenti vengono scritte in inglese – risulta molto utile. Insomma, «è un ottimo tutor, dalla pazienza infinita». Interessante l’idea che tutto ciò richiede e richiederà un deciso cambiamento dell’idea di lavoro. Nessuno – potenzialmente – lavorerà più “da solo”.
Dubbi da esplorare
Certamente questa prospettiva è la più costruttiva. Al tempo stesso, non si può escludere che qualcuno ricorra a un uso “patologico” dello strumento. È successo in passato, quando l’umanità ha vissuto varie rivoluzioni scientifiche, probabilmente succederà in futuro.
Ma l’occhio non può fermarsi, come luddisti contemporanei, sulle pericolosità di uno strumento. Dev’esserne consapevole, ma è importante anche che ci sia uno sforzo costruttivo, la ricerca di un utilizzo umanizzante degli strumenti che, inevitabilmente, evolvono.
Ma come mantenere il giusto equilibrio tra ottimismo e spirito critico, senza diventare ingenui modernisti o spaventati allarmisti? Come stabilire quale seed (lo “spunto di partenza”) dare alla macchina per il suo processo di learning? Come valutare la capacità pseudo-creativa della macchina? Il recente IA Act promulgato dall’Unione Europea basta per risolvere questi dubbi o riguarda l’ambito meramente giuridico? Restano interrogativi aperti, sui quali ragioneremo insieme.
Aggiungi commento