Quando l’AI racconta lo studio legale sbagliato
Articoli Recenti
Categorie
A qualunque studio legale potrebbe capitare di ricevere una richiesta da parte di un potenziale cliente che l’abbia trovato tramite un bot di intelligenza artificiale. La risposta dell’AI potrebbe aver mescolato informazioni corrette ad altre imprecise, con dettagli su ambiti di specializzazione non realmente coltivati dallo studio, la presenza di avvocati che non lavorano lì da tempo, una sede localizzata diversamente da quella reale. Non si tratta di un episodio isolato, situazioni di questo tipo si presentano sempre più spesso, e riguardano indistintamente tanto gli studi legali grandi quanto quelli piccoli.
Questa imprecisione si genera perché le informazioni passano attraverso un sistema che sintetizza dati provenienti da fonti multiple, non tutte altrettanto affidabili, spesso senza indicare la provenienza di ogni dato, e le restituisce con un tono di sicurezza che il lettore tende a non mettere in discussione.
L’incrocio dei dati e la fiducia nell’intelligenza artificiale
Gli assistenti basati su intelligenza artificiale costruiscono le proprie risposte incrociando informazioni raccolte da fonti diverse, non tutte degne di fiducia e spesso non aggiornate nello stesso momento. Alcuni fattori ricorrono con particolare frequenza.
- Le pagine del sito non sono aggiornate dopo un cambio di organico o di sede, e restano comunque indicizzate, venendo lette dal modello come informazione attendibile.
- La rassegna stampa, la presenza nelle directory di settore o i vecchi comunicati che continuano a circolare online molto dopo essere diventati obsoleti possono contenere informazioni non aggiornate, superate e magari anche confutate altrove.
- I casi di omonimia o di somiglianza tra nomi di studi diversi possono confondere il modello quando la disambiguazione nei testi resi pubblici è debole.
- L’assenza di contenuti recenti e strutturati lascia più spazio a fonti secondarie, meno controllate, nel comporre la risposta.
I sistemi di AI non verificano le informazioni con lo stesso criterio di una ricerca giuridica, ma restituiscono la sintesi più plausibile tra ciò che hanno trovato, indipendentemente dalla sua esattezza. La sicurezza apparente nella risposta peraltro genera fiducia nella persona che fa la ricerca.
Il paradosso della fiducia accordata all’intelligenza artificiale
La maggior parte delle persone che utilizza un assistente conversazionale sa, o dovrebbe sapere però, che questi sistemi possono sbagliare, mescolare informazioni, restituire dettagli inventati con la stessa sicurezza con la quale aiutano gli utenti a trovare, catalogare, mettere in ordine e semplificare quelli corretti. La consapevolezza però, raramente si traduce in un atteggiamento di verifica sistematica, soprattutto quando la domanda riguarda un argomento del quale non si sa nulla. In questi casi è molto difficile riconoscere un errore.
Chi chiede a un assistente AI di descrivere uno studio legale non ha, nella maggior parte dei casi, gli strumenti per distinguere un’informazione corretta da una inventata, e tende a fidarsi del tono sicuro della risposta più che a metterla in discussione. Grazie allo stesso meccanismo, ma con meno scusanti, un professionista può citare una sentenza generata da un modello senza controllarla sulla fonte originale. Il risultato è che la fiducia accordata a un sistema che sembra competente conta più della consapevolezza astratta che possa sbagliare.
È un meccanismo psicologico noto, che l’errore, una volta generato, parte già con un vantaggio, e venga accolto con meno resistenza critica di quanta ne incontrerebbe una notizia falsa diffusa da una fonte dichiaratamente inaffidabile. È dimostrato che il cervello umano formula giudizi di fiducia molto prima di avere accesso a informazioni sufficienti per giustificarli e tende a resistere alla revisione di quei giudizi anche di fronte a prove contrarie.
Questo fenomeno, in psicologia, viene diversamente definito, come:
- pregiudizio di verità (truth bias o truth-default theory), la tendenza di base a presumere che un’affermazione sia vera fino a prova contraria, più marcata quando manca il tempo o la competenza per verificare.
- Effetto di illusione di verità (illusory truth effect), la tendenza a giudicare più vera un’informazione solo perché ripetuta o già incontrata, indipendentemente dalla sua esattezza, distinta ma imparentata con quanto descritto sopra.
- Pregiudizio dell’automazione (automation bias), più specifico per il contesto AI, la tendenza a fidarsi maggiormente di un output generato da un sistema automatico rispetto a un giudizio umano equivalente, anche quando il sistema ha già mostrato margini di errore.
Tutti questi fattori rimandano a un principio semplice quanto trascurato, quello del garbage in, garbage out (letteralmente, immondizie dentro, immondizie fuori), un sistema che elabora informazioni non corrette o obsolete non può che restituire risultati altrettanto imprecisi, indipendentemente dalla sofisticazione del modello utilizzato. Non si tratta quindi di un limite dell’assistente AI in sé, ma della qualità dei dati che lo alimentano, e per uno studio legale questo significa che la cura della propria presenza informativa online diventa una forma di prevenzione, prima ancora che di comunicazione.
Dato che non esiste, al momento, uno strumento che consenta di correggere direttamente la risposta di un assistente AI, come si farebbe con una scheda su un motore di ricerca tradizionale, è fondamentale intervenire sulle cause, agendo sulle fonti che il modello utilizza.
La cura dei dettagli fa l’immagine dello studio legale
Quello che interessa a chi si occupa di immagine e comunicazione dello studio legale è dunque la cura, l’attenzione e il continuo aggiornamento dei dati presenti sul sito:
- l’aggiornamento tempestivo delle pagine del sito che riguardano organico, sedi e aree di attività previene che si lascino online versioni superate.
- La verifica periodica di come i principali assistenti descrivono lo studio, provando domande dirette del tipo che farebbe un potenziale cliente.
- La pubblicazione di contenuti recenti, continuati e ben strutturati sulle aree di specializzazione effettive, così da rafforzare il segnale corretto rispetto a quello obsoleto.
- La segnalazione, dove i canali lo consentono, delle informazioni palesemente errate, tenendo conto che i tempi di correzione da parte dei fornitori restano incerti.
Questo lavoro di monitoraggio, più che un’attività straordinaria, andrebbe integrato in una prassi periodica dello studio, alla pari del controllo della propria reputazione sui motori di ricerca tradizionali. Il tema si collega direttamente a quanto già discusso a proposito della reputazione degli studi legali nell’epoca dell’intelligenza artificiale, un rischio meno visibile di altri ma altrettanto concreto, che richiede attenzione costante più che interventi occasionali.
