Due avvocate brasiliane hanno inserito, nel testo di un ricorso, un comando nascosto per ingannare l’avversario, nel caso, sempre più frequente e normale, che questo usasse l’AI per analizzare gli atti e redigere le difese. Le due avvocate hanno pensato di indurre l’algoritmo del sistema di AI della controparte a costruire una difesa debole e a non contestare i documenti allegati al ricorso, utilizzando una stringa di testo scritta in bianco su bianco con un carattere piccolissimo, invisibile alla lettura umana ma riconosciuta come comando dal sistema di intelligenza artificiale.

[Fonte: LeggeZero]

Il data poisoning arriva al mondo legale

Il caso è un esempio, piuttosto emblematico per il mondo legale, di data poisoning (avvelenamento dei dati). L’artificio usato dalle avvocate brasiliane, che non solo hanno perso la causa ma hanno anche subito sanzioni, rende plasticamente l’idea di quanto gli strumenti che oggi molti professionisti utilizzano per velocizzare il proprio lavoro possano essere manipolati, o usati per manipolare la formazione di idee e opinioni. Nel caso citato l’intenzione era fuorviare la difesa dell’avversario, ma l’avvelenamento può avvenire in molti modi e avere come destinatari anche i giudici, che a loro volta usano l’AI, con impatti e conseguenze dirette sull’esito di un procedimento.

Viene da pensare che questo episodio non sia isolato, che altri ne siano accaduti, magari andando a segno. Il fatto mostra comunque uno degli aspetti meno noti e paradossali del problema del data poisoning, ovvero che il meccanismo sfruttato dalle due avvocate brasiliane non è un difetto dei sistemi di intelligenza artificiale, ma banalmente un utilizzo in mala fede della stessa capacità che rende utile l’AI, ovvero la sua capacità di apprendere da ciò che legge.

Un sistema AI è addestrato a leggere testi, a confrontare i contenuti delle pagine web, a essere incaricato in tempo reale di ricerche sul web o banche dati, a scrivere testi giusti e accurati sulla base dei risultati che ottiene. In tutti questi casi assorbe il contenuto immesso nel web senza avere modo di distinguere tra un’informazione accurata e una costruita ad arte per condizionarlo.

La stessa dote infatti permette all’intelligenza artificiale di fare propri gli aggiornamenti giurisprudenziali che uno studio legale commenta e diffonde sui propri canali, o di stabilire il posizionamento di un professionista in una determinata materia, grazie alla lettura di articoli di approfondimento costanti pubblicati sul blog o su riviste specializzate. Non si tratta di due fenomeni distinti, ma della stessa dinamica osservata da due punti di vista collocati su fronti opposti.

Sfruttare la capacità di apprendimento dell’AI per migliorare l’immagine dello studio sul web

Indurre l’AI a lavorare a proprio favore è, in fondo, l’obiettivo che accomuna entrambi i fronti.
Aggiungere valore ai contenuti presenti sul web produce, come effetto collaterale, un vantaggio reputazionale. Infettare in modo malevolo le informazioni date in pasto all’AI produce invece un output falso, tanto nelle premesse quanto nei risultati,  verrebbe da dire ideologico mutuando il linguaggio legale.

Il data poisoning porta alle estreme conseguenze il principio del garbage in, garbage out, in gergo GIGO. Lo fa attraverso la mala fede, un’azione deliberata, un attacco intenzionale che sfrutta l’attitudine dell’AI a introiettare i dati immessi in rete, non tutti di buona qualità o scevri da errori.

Per uno studio legale la domanda utile non è se un sistema di intelligenza artificiale legge e ripete ciò che trova online, perché lo fa già, e sempre più spesso, ma è come utilizzare in maniera proficua questa attitudine nella comunicazione dello studio, per migliorarne posizionamento e reputazione. Secondo i dati pubblicati da Cloudflare Radar, che monitora una porzione significativa del traffico internet globale attraverso la propria rete, i bot rappresentavano circa un terzo di tutte le richieste web a giugno 2026, con i crawler legati all’intelligenza artificiale come componente in crescita più rapida di questa categoria. Anthropic, la società che sviluppa Claude, è oggi il secondo operatore di bot per traffico verificato dopo Google, un dato che segnala quanto questi sistemi stiano già leggendo attivamente il web per rispondere alle domande degli utenti, non solo per addestrare i propri modelli.

La distinzione tra le due modalità, risposta alle domande e addestramento, è rilevante per uno studio legale più di quanto sembri. Una parte di questo traffico serve ad addestrare i modelli su grandi volumi di contenuto, senza restituire visibilità diretta a chi lo ha pubblicato. Un’altra parte, in crescita costante, è invece generata da una domanda reale: un utente umano chiede a un assistente AI di individuare uno studio esperto in una determinata materia, o la risposta a uno specifico quesito, e il sistema consulta le pagine più pertinenti in quel momento per costruire la risposta. In questo secondo caso, un blog aggiornato, ben scritto, coerente con sé stesso e verificabile, che cita fonti accreditate, ha la possibilità concreta di essere letto, citato, e restituito come fonte affidabile.

Come l’AI racconta lo studio e come insegnargli a farlo

La domanda utile, quindi, è quale versione dello studio, e del proprio lavoro, questi sistemi stanno effettivamente imparando a raccontare. La risposta è costruire contenuti che un sistema di intelligenza artificiale possa citare con fiducia perché sono oggettivamente affidabili.

La strada per ottenere questo risultato è lenta ma solida, e percorrerla significa:

• rispondere in modo diretto e verificabile alle domande che i potenziali clienti si pongono, mettendo a disposizione la fonte (es. link alla norma di riferimento);
• firmare i contenuti con il nome di chi li ha pensati, scritti e verificati;
• monitorare il piano editoriale costantemente, anche per aggiornare gli articoli quando una norma o una giurisprudenza cambiano;
• evitare promesse di risultato che la deontologia forense vieta comunque.

Non si tratta solo di ottimizzare per la lettura da parte di un algoritmo, ma di fare bene ciò che un buon contenuto legale dovrebbe già fare: informare con precisione chi ha un problema reale.

La reputazione costruita in questo modo ha un vantaggio che nessuna tecnica di manipolazione può replicare, perché utilizza correttamente la potenza dell’AI. Resiste sia allo sguardo umano sia a quello automatizzato e non dipende da un trucco che prima o poi verrà scoperto, ma dalla qualità effettiva di ciò che è stato scritto e verificato.

di Paola Parigi