Che tipo di (aiuto) scrittore è chatGPT?

Le mie riflessioni che a breve leggerai trovano spunto in un articolo scritto da Cal Newport per “The New Yorker”.

Personalmente sto approfondendo l’utilizzo delle IA, o meglio degli LLM, per automatizzare il mio lavoro e velocizzare compiti “banali” ma necessari e mi sono dedicato, solo in minima parte, all’utilizzo degli LLM per agevolare la scrittura. Ho trovato tuttavia interessante lo spunto e la riflessione offerta da Cal Newport.

1. L’attività di scrittura dell’avvocato

L’attività professionale dell’avvocato è profondamente legata alla scrittura; questo anche nel mondo penale dove c’è una maggior enfasi sull’oralità.

Mi pare quindi corretto approfondire i possibili spunti di utilizzo di uno strumento come l’LLM nelle sue varie forme: online come chatGPT, Gemini, Claude e simili; in locale con Mistral, Llama, Gemma2 etc …

Partiamo quindi dall’articolo di Cal.

2. Le considerazioni e gli approfondimenti di Cal

Ti suggerisco di leggere per intero l’articolo in inglese ma di seguito ti lascio i passaggi che ho ritenuto interessanti (tradotti con il traduttore automatico di Apple – l’enfasi è, invece, mia).

Cal parte portando un esempio, come spunto della sua analisi: uno studente di antropologia (un ipotetico Chris) che ha chiesto aiuto a ChatGPT per scrivere una tesina che gli era stata assegnata nel corso di laurea.

Citando lo studio di Stacey Pigg, di cui trovi una breve sinossi a fine del mio articolo – rigorosamente fatta con un LLM (Gemma2 27B per la precisione), Cal osserva:

Il chatbot non poteva produrre grandi sezioni di testo utilizzabile, ma poteva esplorare idee, affinare la prosa esistente o fornire un testo approssimativo da perfezionare allo studente. Ha permesso agli scrittori di giocare con le proprie parole e idee. In alcuni casi, queste interazioni con ChatGPT sembrano quasi parasociali.

L’utilizzo di ChatGPT (o dei suoi emuli) sostituisce (in parte) il confronto con correttori di bozza, colleghi o editor.

È particolarmente lucida, poi, l’analisi scientifica del processo di scrittura e delle difficoltà che lo scrittore affronta nello scrivere.

Scrivere è difficile. Ci richiede di usare più parti del cervello in un’improbabile sinfonia di sforzo ad alta fatica. Il nostro ippocampo evoca fatti rilevanti; la corteccia prefrontale cerca di organizzarli. Una regione del cervello nota come area di Broca ci aiuta a narrare con una voce interiore familiare; la nostra memoria di lavoro verbale memorizza e manipola la narrazione mentre la trasferiamo sulla pagina. Nel frattempo, il nostro cervello recluta la nostra memoria di lavoro spaziale, che si è evoluta per tracciare la nostra posizione nello spazio fisico, per orientare le nostre parole all’interno di un insieme.

Piccola mia nota: da tempo sono affascinato dal funzionamento del nostro cervello ed in particolare di come “impariamo”. A tal proposito ti segnalo Uncommon Sense Teaching: Practical Insights in Brain Science to Help Students Learn , scritto da insegnanti per insegnanti ma molto utile nello spiegare la scienza dell’apprendimento e, conseguentemente, come “impariamo” (purtroppo non ne esiste una versione in lingua italiana ma solo in inglese).

Tornando all’articolo di Cal, trova un ponte tra strategie di autori famosi e quel che ha fatto la sua “cavia da laboratorio”.

Molti autori riducono le esigenze cognitive della scrittura attraverso l’uso di abitudini e rituali familiari, progettati per facilitare il cervello in una modalità favorevole alla produzione letteraria … Dopo aver osservato Chris, ho iniziato a chiedermi se ChatGPT potesse essere inteso come la sua versione di WordStar (di George R. R. Martin, l’autore del Trono di spade) o mangiare mele nella vasca da bagno (di Agatha Christie): un trucco cerebrale usato per rendere l’atto di scrivere meno difficile. … ChatGPT non stava generando prosa professionale tutta in una volta, ma stava fornendo punti di partenza: interessanti idee di ricerca da esplorare; paragrafi mediocri che potrebbero, con un editing sufficiente, diventare utilizzabili. Per tutte le sue inefficienze, questo approccio indiretto è sembrato più facile che fissare una pagina bianca; “parlare” con il chatbot dell’articolo è stato più divertente che faticare in isolamento tranquillo. Se la scrittura richiede a una persona di memorizzare le informazioni utilizzando più tipi di memoria di lavoro allo stesso tempo, allora le conversazioni avanti e indietro con ChatGPT possono fornire momenti di tregua, scaricando temporaneamente alcune di queste informazioni.

Conclude Cal:

Collaborare con A.I. può anche offrirti una “prima bozza di merda” (espressione di Anne Lamott nel suo Scrivere) ad alta tecnologia, permettendoti di passare più tempo a modificare il testo cattivo e meno tempo cercando di creare un buon testo da zero. Utilizzare ChatGPT può permettere non tanto di scrivere al tuo posto quanto di generare uno stato mentale che ti aiuta a produrre una scrittura migliore.

Cal, quindi, sottolinea come lo strumento (lui parla sempre di ChatGPT ma, ovviamente, il discorso vale in generale per gli LLM) possa sostituire i trucchi analogici degli scrittori per scrivere meglio.

2.1 È possibile trasporre questi consigli per la scrittura legale / specialistica ?

La domanda nasce spontanea: ma è possibile trasporre questi “trucchi” per una attività specialistica, come ad esempio l’attività legale?

Credo che la risposta, con le dovute accortezze, possa essere un sì.

Sicuramente un LLM da solo (con il suo training specifico) è difficilmente utilizzabile da un legale posti 2 grossi limiti del sistema: a) il training è fatto prevalentemente in lingua inglese e non in quella italiana; b) il lessico (la lingua) legale è un sottoinsieme specialistico dell’italiano che richiede una ulteriore specializzazione che gli LLM “generalisti” non hanno.

Ciò detto, per chi voglia sperimentare con questi strumenti è sicuramente possibile “addomesticare” gli LLM generalisti alla lingua italiana ed al diritto. Ciò richiede maggiori attenzioni e maggior premura nel loro utilizzo rispetto all’esempio portato da Cal (che comunque è legato al mondo specialistico dell’antropologia).

Mi pare quindi importante non utilizzare da solo la chat dei vari LLM ma utilizzare soluzioni più raffinate come RAG (Retrieval-Augmented Generation), con materiali di riferimento e/o ricerche fatte sull’argomento, ed LLM con capacità di gestire grosse finestre di contesto, onde permettere di passare i dati fondamentali al modello generalista e “specializzarlo”.

3. Il mio personale strumento tecnologico: le mappe mentali

Ammetto di aver sperimentato poco in questo senso con gli LLM locali. Mi prefiggo in un prossimo futuro di provare (tempo permettendo) e nel caso dartene un resoconto.

Allo stato trovo che un uso incrociato di mappe mentali e strutturazione degli atti per punti sia il modo migliore (per me) di scrivere professionalmente.

Questo sistema mi permette di avere la flessibilità di pensare al problema, strutturandolo ed approfondendolo pian piano, vincendo il problema della “pagina bianca” e dando un indirizzo ai miei ragionamenti.

Delle mappe mentali ho parlato svariate volte, in particolare quando ho parlato di cucinare le idee e, più recentemente, quando ho creato la sinossi di una mia OfficeHour con un LLM locale. In quest’ultimo caso, tuttavia, non era un intervento “giuridico” in senso stretto ed i risultati, almeno dal mio punto di vista, sono stati buoni.

4. Possibili utilizzi delle IA nella scrittura legale

Ragionando sull’articolo di Cal Newport ritengo che le IA siano sicuramente un potenziale strumento di ausilio del professionista; anche solo per vincere il dilemma della “pagina bianca”.

Devo tuttavia segnalarti il problema che IA online, come ChatGPT, Gemini e così via, pongono per l’avvocato. Infatti se utilizzati come “casse di risonanza” per ragionare su concetti giuridici non pongono particolari problemi, quando invece li si utilizza con dati e/o informazioni del clienti pongono dei problemi maggiori.

Per questo motivo, sin da quando ho iniziato a giocare con gli LLM, ho preferito l’approccio locale. Questo infatti mi permette di utilizzare gli LLM senza il legittimo dubbio di cosa facciano i dati e le informazioni dei miei clienti, posto che gli LLM locali funzionano sul mio computer (dedicato).

Questo approccio, tuttavia, mi espone ai limiti di modelli linguistici di “piccole dimensioni” rispetto a quelli online. Ciò non di meno, tale approccio mi permette di sperimentare direttamente i limiti e le frontiere di cosa possono fare i piccoli modelli di LLM. Ritengo quindi che sia un prezzo da pagare idoneo.

In conclusione

Credo che testare le IA sia sicuramente utile per comprendere SE e QUANDO utilizzare simili soluzioni, sia nel mondo professionale sia più in generale nella vita quotidiana.

Usare l’IA come “cassa di risonanza” dell’autore può essere utile, soprattutto nel caso del lavoro (potenzialmente) solitario dello scrittore giuridico; ritengo sempre più utile avere un collega come “correttore di bozze” rispetto a qualsiasi IA ma non sempre è possibile averlo e “piuttosto che niente, è meglio piuttosto …”.

Credo che per i professionisti di lingua italiana gli LLM prevalentemente istruiti sulla lingua inglese non siano ancora ottimi ausili per la scrittura ma, con le dovute attenzioni ed esperimenti, possano diventare uno strumento utile da conoscere e possedere nel proprio expertise.

A tal proposito ti chiedo cosa ne pensi e, soprattutto, se hai mai fatto uso e come di un LLM per scrivere i tuoi atti giuridici. Nel caso lascia un commento qui sotto o scrivimi una email.

Come sempre, se ti è piaciuto quel che hai letto o visto e non l’hai già fatto, ti suggerisco di iscriverti alla mia newsletter. Ti avvertirò dei nuovi articoli che pubblico (oltre ai podcast e video su YouTube) e, mensilmente, ti segnalerò articoli che ho raccolto nel corso del mese ed ho ritenuto interessanti.

Due studi interessanti

Da ultimo ti lascio, come approfondimento, due studi (sempre in lingua inglese) sull’argomento. Come detto all’inizio dell’articolo ho dato in pasto a Gemma2 27B gli abstract degli studi per traduzione e sintesi. Il primo è più in linea con il testo inglese originale, il secondo è invece più discorsivo (i primi risultati non mi avevano soddisfatto).

A. Scrivere ricerche con ChatGPT: un quadro di pratica incarnata descrittiva

Questo studio analizza come i ricercatori stiano integrando l’intelligenza artificiale generativa (come ChatGPT e Bing) nei loro processi di scrittura, mettendo l'accento sull'importanza dell’esperienza pratica e della personalizzazione nell'apprendimento delle nuove tecnologie di scrittura.
Attraverso un’analisi qualitativa di 35 video pubblicati online, gli autori identificano tre categorie principali di prassi utilizzate dai ricercatori quando interagiscono con l’AI: richiesta (formulare domande precise all’IA), valutazione (analizzare la qualità e la rilevanza delle risposte generate) e raffinamento (modificare e migliorare i testi prodotti dall’IA).
Lo studio mette in luce come gli approcci all'utilizzo dell’IA nella ricerca varia a seconda del livello di esperienza: esperti di scrittura e ricerca tendono ad avere visioni diverse rispetto agli studenti che stanno ancora imparando. Questo evidenzia la necessità di un approccio flessibile e personalizzato all'apprendimento delle nuove tecnologie, che tenga conto delle diverse esigenze e prospettive degli utenti.

B. Gli LLM possono generare nuove idee di ricerca? Uno studio umano su larga scala con oltre 100 ricercatori di NLP

Recentemente, i modelli di linguaggio di grandi dimensioni (LLM), come ChatGPT, hanno suscitato entusiasmo per la loro potenziale capacità di accelerare le scoperte scientifiche.
Molti ricercatori stanno proponendo l'utilizzo di questi modelli per creare “agenti di ricerca” che generano e validano autonomamente nuove idee. Tuttavia, fino ad oggi, nessuno aveva dimostrato in modo concreto se questi sistemi fossero effettivamente capaci di produrre idee originali a livello di esperto. Un nuovo studio affronta questa domanda con un'analisi rigorosa. I ricercatori hanno confrontato direttamente le idee generate da un agente LLM con quelle prodotte da oltre 100 esperti di elaborazione del linguaggio naturale (NLP).
I risultati? Le idee generate dall'LLM sono state giudicate più innovative rispetto a quelle degli esperti, anche se leggermente meno realizzabili.
Lo studio evidenzia anche alcune importanti problematiche nell'utilizzo degli LLM per la ricerca:

Gli LLM hanno difficoltà a valutare autonomamente la qualità delle loro idee.
Le idee generate dagli LLM tendono ad essere poco diverse tra loro.

E ora? Per capire veramente se queste nuove idee portano a risultati concreti, i ricercatori suggeriscono un ulteriore studio: mettere in pratica le idee (sia quelle degli esperti che quelle dell'LLM) e valutare l'impatto dei rispettivi progetti di ricerca.

Spiegazione delle sigle:

LLM (Large Language Model): Modello di linguaggio di grandi dimensioni, un tipo di intelligenza artificiale in grado di comprendere e generare testo simile a quello umano.
NLP (Natural Language Processing): Elaborazione del linguaggio naturale, un campo dell'informatica che si occupa di far interagire computer con il linguaggio umano.