Una ricerca su Google include ormai quasi sempre una risposta generata da un’intelligenza artificiale. Che lo vogliamo o no, ci ritroviamo a “parlare” con questi strumenti — spesso senza sapere bene come farlo, e senza conoscerne davvero i limiti. Sapere come funzionano e conoscere le tecniche di prompt engineering - in sostanza le domande che rivolgiamo all’AI e in base alle quali ci aspettiamo risposte chiare, precise e il più possibile affidabili – è la base per ogni attività che vogliamo svolgere con gli strumenti “intelligenti”.
Ne abbiamo discusso con Alessandro Domanico ed Emanuele Lovato di Informatici Senza Frontiere, alla vigilia del secondo incontro del workshop dal titolo: Parlare con le AI generative, introduzione al prompt engineering. Il tema è, dunque: come costruire e mettere in pratica istruzioni efficaci per i grandi modelli linguistici (LLM). Alessandro Domanico è Ingegnere Informatico, Project Manager & Software, Analyst Developer. Emanuele Lovato è AI&IT Specialist, Cyber Security Expert, Senior Developer.
In questa intervista i due esperti ci aiuteranno a capire cosa sono e come si usano i prompt, perché anche “parlando con una macchina” serve rigore. Ci aiuteranno, inoltre, a comprendere quali insidie si nascondono dietro risposte che sembrano convincenti — ma non sempre sono vere.
Il workshop è stato realizzato nell’ambito del progetto AIWAY – Percorsi di Educazione Digitale e AI Responsabile, progetto di rilevanza nazionale della durata di 18 mesi, finanziato dal ministero del Lavoro e delle Politiche Sociali, nell’ambito dell’Avviso n. 3/2024 per iniziative aventi ad oggetto l’Intelligenza Artificiale, ai sensi dell’art. 72 del D.Lgs. 117/2017.
Andiamo subito alla sostanza: quali sono stati, in sintesi, i temi del workshop?
Alessandro Domanico: Dopo un primo incontro più teorico, siamo entrati nel vivo di come si dialoga con l’intelligenza artificiale. Sono strumenti nuovi, che si cominciano a usare anche inconsapevolmente: una qualsiasi ricerca su Google, ormai, include anche una risposta generata dall’AI. Che lo si voglia o no, ci si ritrova sempre a che fare con questi strumenti. Per noi di Informatici Senza Frontiere è fondamentale spiegare ai nostri beneficiari e ai nostri soci — senza tecnicismi, senza bisogno di essere esperti di informatica — come si è arrivati a questi modelli, ma soprattutto quali sono i loro limiti. Serve, per usare un termine che va di moda, evitare di trattarli come oracoli.
Il titolo del seminario è proprio “Introduzione al prompt engineering”. Allora, una domanda forse ingenua ma necessaria: che cos’è, esattamente, un prompt?
A.D.: Il termine sta diventando di uso comune, ma storicamente un prompt è una qualsiasi istruzione data a una macchina. Con l’intelligenza artificiale si è ripreso lo stesso termine per indicare tutto ciò che scriviamo a un LLM (Large Language Model), cioè un modello che modellizza il linguaggio umano: riceve testo e genera testo. Oggi questi modelli iniziano a processare anche immagini e suoni, ma tutto parte da lì.
E cosa dobbiamo imparare per ottenere risposte davvero utili? Se scrivo un prompt sbagliato, la macchina mi risponderà in modo sbagliato?
A.D.: Esattamente: è quello che comunemente si chiama garbage in, garbage out — spazzatura in ingresso, spazzatura in uscita. È un concetto vero anche nei sistemi informatici tradizionali: se i dati di partenza erano sbagliati, il risultato lo era altrettanto. Con gli LLM vale lo stesso principio, con una complicazione in più.
Quale?
A.D: A differenza dei sistemi tradizionali — dove allo stesso input corrispondeva sempre lo stesso output — questi oggetti sono probabilistici: a parità di domanda, possono darti una risposta, un’altra, o un’altra ancora, a seconda delle probabilità calcolate al loro interno. È lo stesso principio del completamento automatico che conosciamo dai cellulari o dalla barra di ricerca di Google: comincio a scrivere “come si fa…” e il sistema prova a completare la frase, “Come si fa… una torta. Come si Come si fa… a riparare un’automobile” e così via. Non c’è una risposta esatta, questo è il primo rischio, e non c’è nemmeno una risposta sbagliata in senso stretto: c’è solo una risposta più probabile. Da qui derivano a cascata tutti i problemi che abbiamo iniziato a conoscere, comprese le “allucinazioni” — l’invenzione di un’informazione che, per la macchina, non è altro che una sequenza di parole statisticamente plausibili.
Allora, torniamo a monte: come si costruisce un prompt che aiuti, invece di generare confusione? Lo chiediamo al dottor Lovato.
Emanuele Lovato: Il punto di partenza è capire che questi modelli lavorano con sequenze statistiche, mentre la comunicazione umana funziona diversamente. Siamo abituati a pensare che un concetto coincida con una parola, che le parole abbiano un suono e un significato. Un LLM, invece, tratta le parole quasi come entità statistiche, prive di un concetto intrinseco. Per questo dobbiamo fare attenzione a come gestiamo i nostri prompt. Esistono diverse metodologie che, applicate gradualmente, permettono di ottenere risultati sempre migliori.
Può fare degli esempi pratici per spiegarlo?
E.L.: Gli esempi possono essere di ogni tipo: una ricerca sulla fotosintesi, sulla Rivoluzione francese, poco importa l’argomento. Quello che conta davvero è capire come impostare il prompt fin dal principio. Ci sarà un primo livello di analisi, più semplice, e un secondo livello in cui affronteremo metodi più approfonditi. Fin da subito, però, valgono alcuni principi base: usare un’interazione naturale del linguaggio; puntare su chiarezza e specificità, evitando richieste troppo complesse che rischiano di sovraccaricare il prompting; adottare un approccio interattivo, fatto di continui affinamenti; e, non ultimo, non avere paura di sperimentare.
“Interazione naturale del linguaggio” significa che imparo a parlare alla macchina come parlerei con una persona?
E.L.: Non necessariamente. Usare un linguaggio quotidiano va benissimo, ma dobbiamo pensare alla nostra interazione con l’LLM come se avessimo accanto un collega esperto che ci affianca nello sviluppo dei prompt. Impostare correttamente il tipo di prompt, seguendo un metodo, porta alla maggiore esperienza possibile e al risultato migliore. Il principale metodo di cui abbiamo anche approfondito nel dettaglio nel corso del workshop si può ricordare con un acronimo: G.C.S.E.
Cosa significa?
E.L: È uno schema mentale basato su quattro aspetti. Il Goal, l’obiettivo concreto che si vuole ottenere. Il Contesto, che fornisce alla macchina le coordinate che altrimenti non potrebbe conoscere, insieme agli eventuali vincoli. La Source, ossia le fonti o gli esempi da usare, materiali reali su cui basarsi. E le Expectations, le aspettative, che eliminano le ambiguità sul formato e carattere: lunghezza, tono, struttura del risultato. Non serve utilizzare tutti e quattro gli elementi per una richiesta semplice, ma fanno una grande differenza quando si vuole una comunicazione precisa, un risultato ben definito.
Facciamo un esempio concreto, dottor Domanico.
Alessandro Domanico: Immaginiamo che io sia un avvocato e dica soltanto nel mio prompt: “Scrivimi l’arringa per il processo di domani”. L’LLM farà del suo meglio, ma userà probabilmente il primo linguaggio che gli viene in mente — quello statisticamente più probabile, non necessariamente il più adatto. Se invece forniamo il Goal (“sei un esperto di diritto civile italiano”), il Contesto (il reato, le caratteristiche del caso — sempre con l’accortezza di anonimizzare i dati sensibili delle persone coinvolte), la Source (i documenti già redatti, anch’essi anonimizzati) e le Expectations (“mi aspetto un’arringa di 1500 parole”), il risultato sarà molto più aderente a ciò che serve davvero. Altrimenti si rischia un testo di 500 parole, riferito alle leggi di un altro Paese, o basato su fonti inventate — nella migliore delle ipotesi si perde tempo, nella peggiore si porta in aula qualcosa di inutilizzabile. Aggiungere queste parole in più su obiettivo, contesto e fonti equivale, di fatto, a guidare la macchina verso ciò che ci serve realmente.
A proposito di dati sensibili: se in un caso reale scrivo il nome di una persona coinvolta in un procedimento, che fine fanno quei dati?
A.D.: Dipende dalla piattaforma: ognuna ha le proprie condizioni d’uso, che praticamente nessuno legge — un po’ come i termini di servizio di Gmail. Se la piattaforma è gratuita, spesso il prodotto siamo noi: i nostri dati vengono utilizzati per allenare le macchine stesse. In teoria, questo significa che un’informazione sensibile potrebbe riemergere altrove, magari nella risposta data a un’altra persona. Per questo, quando lavoro con testi che contengono dati personali, sostituisco sempre nomi e cognomi con sigle diverse — xxx, yyy, zzz — avendo cura di cambiare le lettere iniziali, così che il modello capisca comunque che si tratta di persone diverse.
Funziona sempre?
A.D.: Quasi. Una volta sono rimasto sconvolto: nonostante le sigle, il modello è quasi riuscito a indovinare il vero cognome di una persona di cui conosceva solo il nome. Il cognome proposto non era quello esatto, ma era sorprendentemente simile — aveva probabilmente notato che quel nome è spesso abbinato a cognomi che iniziano con una certa lettera, e ha scelto di conseguenza. Ancora una volta, stiamo parlando di probabilità: il modello mette insieme tutto il contesto disponibile per fare la sua previsione statistica. Anche mascherando i dati, insomma, il rischio non sparisce del tutto.
Chiederei ora al dottor Lovato: anche imparando a scrivere prompt perfetti, come possiamo accorgerci degli errori? La macchina non ci avvisa se una risposta è imprecisa — come facciamo i controlli necessari?
Emanuele Lovato: Tutti questi strumenti partono da una premessa che dichiarano loro stessi chiaramente: le risposte non corrispondono necessariamente a verità o correttezza. Serve un approccio, sia nel prompting sia nel metodo di lavoro con l’AI, che ci permetta di riconoscere quando sbaglia. L’intelligenza artificiale non è lo strumento che fa le cose al posto nostro, ma uno strumento di ausilio: è sempre l’operatore umano a dirigerla, anche solo con il linguaggio naturale. Ci sono almeno quattro rischi ormai assodati da tenere sempre presenti.
Il primo?
E.L.: Verificare sempre il risultato, per quanto l’output — cioè la risposta che l’AI restituisce nel momento in cui riceve il prompt — possa sembrare professionale e corretto. Anche un testo ben strutturato può contenere errori: in ambito legale, ad esempio, dati inventati o addirittura sentenze che non esistono. Bisogna sempre avere un approccio di ricerca: se l’AI cita fonti specifiche, andare a cercarne gli originali, senza accettare passivamente che una sentenza esista solo perché viene citata con sicurezza. La verifica va fatta sia prima sia dopo l’uso del prompt.
Il secondo rischio?
E.L.: L’omogeneizzazione dei contenuti. Se non interveniamo, i testi generati dall’AI finiscono per assomigliarsi tutti: diventano standardizzati, riconoscibili a colpo d’occhio. Sta a noi intervenire sulla forza comunicativa di ciò che il prompt restituisce, per evitare di scivolare in un’omologazione totale.
Infine, quali sono gli altri due rischi?
E.L.: Il terzo, forse il più delicato: delegare il pensiero critico. Non bisogna mai farlo. L’AI è un ottimo strumento per studiare e approfondire, ma la progettazione e le idee restano sempre nostre. Pensiamo alla progettazione di un drone: l’AI può essere preziosissima per i calcoli fisici, come un ingegnere esperto che ci affianca — ma difficilmente valuta se il progetto complessivo funziona a livello strutturale. L’analisi finale spetta sempre a noi.Il quarto elemento, importantissimo, riguardai bias culturali. I risultati non riflettono una realtà assoluta: le AI sono figlie del proprio addestramento, oggi basato soprattutto su testi anglofoni, e possono riflettere — lo si è visto in diversi casi recenti — pregiudizi razziali e religiosi.
Mi viene in mente una domanda, proprio a partire da questo: se uso un’intelligenza artificiale sapendo che scrivo dall’Italia, il modello potrebbe già “immaginare” come io possa pensare, e rispondermi di conseguenza. Se ponessi la stessa domanda politicamente sensibile — pensiamo alle politiche migratorie — dal Sudafrica, dal Ghana o dalla Groenlandia, otterrei una risposta diversa?
Alessandro Domanico: Dobbiamo sempre ricordarci che parliamo di piattaforme proprietarie di aziende private. Al di là del bias di fondo c’è anche un altro fattore, legato allo stesso discorso fatto sulla privacy: quello che mandiamo alle AI viene pre-processato. Possiamo scommetterci: esistono dei guardrail, delle linee guida. Il modello in sé — che in teoria si potrebbe persino scaricare e far girare sul proprio computer, se abbastanza potente, con tempi più dilatati — può avere dei bias perché è stato allenato su ciò che si trova online: se in rete si trova spazzatura, la macchina restituirà spazzatura. Ma le piattaforme aggiungono anche un pre-processing e un post-processing. Pensiamo alla Cina: se chiediamo informazioni su piazza Tienanmen, molto probabilmente non otterremo risposta. È un segno di intervento in post-produzione: l’LLM genera comunque una risposta, poi un filtro — deciso da persone — la blocca.
Emanuele Lovato: Aggiungerei che proprio su piazza Tienanmen, è stato dimostrato di recente da un’inchiesta che una delle intelligenze artificiali cinesi addestrata in modo specifico, su una domanda su Tienanmen risponde direttamente che questa viola le regole del Partito Comunista Cinese. Si riesce però a far pensare all’AI qualcosa che si avvicini a quell’evento andando a poetizzarlo, usando per esempio termini come “aquile di ferro” per dire aerei. Insomma, usando una struttura molto poetica e simbolica si riesce ad arrivare al tema. Rispetto alla domanda sul luogo geografico da cui ci si interfaccia con l’AI, direi che più che la posizione fisica è molto importante la lingua. È dimostrato che a seconda della lingua utilizzata ci sono degli stili di risposta diversi. Questo è dovuto al carattere e alla struttura della specifica lingua. Faccio degli esempi: se si usa l’inglese le risposte saranno più dirette, concise, logiche. L’taliano tende invece ad essere più formale e talvolta prolisso. Lo spagnolo ha uno stile espressivo più empatico rispetto, per esempio all’inglese, nel rispondere ai prompt. Infine, il russo tende ad essere più descrittivo e rigorosamente accademico/formale mentre il cinese tende a spiegare concetti complessi con espressioni idiomatiche, con delle metafore. Quindi è vero che l’LLM, il modello alla base può essere similare ma poi esistono anche le sfumature del linguaggio che sono naturali e connaturate alla nostra esperienza.
Alessandro Domanico: In tutti i casi è fondamentale dare un ruolo all’AI. Non a caso, un altro dei metodi che analizziamo nei workshop e nei seminari è il C.R.I.S.P.E., dove la R sta appunto per role (Context, Role, Instructions, Scope, Purpose, Examples). Determinare il ruolo (cioè fare entrare l’IA nelle vesti di un avvocato, di un informatico, di un esperto di…) aiuta a ricevere risposte più aderenti e fedeli alle aspettative. Vorrei concludere ritornando alla questione della verifica delle fonti. Un concetto per noi assolutamente importante e di cui parliamo sempre nei nostri incontri è questo: se ti affidi ad un’Intelligenza Artificiale, che tu lo faccia per il tuo lavoro o per una passione, sei anche responsabile di ciò che fa, è essenziale ricordarlo. Questa è la regola aurea.
