Perché è rischioso affidare la consulenza legale a ChatGPT

Negli ultimi mesi l’utilizzo di strumenti di intelligenza artificiale come ChatGPT è entrato stabilmente anche nelle attività operative di imprese, e-commerce e startup. Sempre più spesso clienti e imprenditori si rivolgono a questi strumenti per redigere contratti, rispondere a contestazioni o impostare documentazione legale.

Questa tendenza è comprensibile, perché l’AI offre risposte immediate e apparentemente autorevoli. Tuttavia, proprio questa apparente affidabilità rappresenta il principale rischio.

La consulenza legale non è una risposta standardizzata, ma un’attività che richiede interpretazione, valutazione del contesto, conoscenza aggiornata della normativa e, soprattutto, capacità di misurare il rischio concreto. Elementi che un sistema come ChatGPT, per sua natura, non è in grado di garantire.

Scopri come utilizziamo l'intelligenza artificiale.

Il problema delle “allucinazioni” dell’intelligenza artificiale

Uno degli aspetti meno conosciuti dagli utenti riguarda il fenomeno delle cosiddette allucinazioni.

Con questo termine si indica la capacità dei modelli di intelligenza artificiale di generare risposte che appaiono corrette, coerenti e ben argomentate, ma che in realtà sono giuridicamente inesatte, incomplete o del tutto inventate.

Il punto critico è che chi utilizza questi strumenti non è normalmente in grado di distinguere una risposta corretta da una errata. Il risultato è che decisioni operative vengono prese sulla base di informazioni solo “plausibili”, ma non verificate.

Nel contesto legale questo è particolarmente pericoloso, perché una risposta sbagliata non è solo teoricamente errata: produce effetti concreti, economici e, in alcuni casi, anche sanzionatori.

Scopri la nostra assistenza legale in ambito di intelligenza artificiale.

Cinque casi concreti riscontrati nella pratica

Nella nostra attività quotidiana ci capita sempre più spesso di intervenire su situazioni in cui il cliente ha fatto affidamento su strumenti come ChatGPT per prendere decisioni legali operative.
I problemi che emergono non sono teorici, ma concreti, e spesso incidono direttamente su costi, responsabilità e contenziosi.

Caso 1 – Recesso e-commerce: errore apparentemente banale, ma costoso

Un operatore e-commerce riceve una richiesta di recesso e decide di chiedere a ChatGPT come gestirla.
La risposta è quella “standard”: il consumatore ha diritto di recedere entro 14 giorni.

Il cliente, fidandosi, accetta il reso e procede al rimborso.

Il problema emerge solo successivamente: l’acquirente non era un consumatore, ma un professionista con partita IVA. In questo caso, il diritto di recesso previsto dal Codice del Consumo non si applica.

L’errore nasce dal fatto che ChatGPT ha fornito una risposta generica, senza valutare un elemento essenziale del caso concreto: la qualifica del cliente.

Il risultato è una perdita economica immediata e, soprattutto, la creazione di un precedente che rende più difficile negare richieste analoghe in futuro.

Caso 2 – Contratto “perfetto” nella forma, inutilizzabile nella sostanza

Un’azienda ci sottopone un contratto commerciale interamente generato tramite AI, chiedendo una semplice revisione.

Il testo, a prima vista, è ben scritto, fluido e strutturato. Tuttavia, a un’analisi giuridica emergono criticità rilevanti.

Le clausole vessatorie non risultano validamente approvate secondo gli artt. 1341 e 1342 c.c.; la responsabilità contrattuale è disciplinata in modo generico e inefficace; il foro competente è indicato in modo non vincolante; manca del tutto una regolamentazione adeguata in materia di protezione dei dati personali.

In sostanza, il contratto dà un’illusione di completezza, ma non offre una reale tutela giuridica. In caso di contenzioso, molte delle clausole sarebbero difficilmente opponibili.

Caso 3 – Privacy policy generica e non conforme al GDPR

Un cliente decide di redigere autonomamente la propria privacy policy utilizzando ChatGPT.

Il documento ottenuto appare formalmente corretto, ma presenta gravi lacune. Le basi giuridiche del trattamento sono indicate in modo generico, i tempi di conservazione dei dati non sono specificati, i soggetti coinvolti nel trattamento non sono chiaramente identificati e manca una reale personalizzazione rispetto alle attività svolte dal sito.

Il problema, anche in questo caso, deriva dall’approccio standardizzato dell’AI, che non è in grado di adattare il documento alla concreta struttura organizzativa e ai flussi di trattamento.

Il risultato è un’informativa che espone l’azienda a rischi di non conformità al GDPR e a possibili contestazioni da parte degli utenti o delle autorità.

Caso 4 – Marketplace: qualificazione giuridica completamente errata

Una startup che gestisce un marketplace utilizza ChatGPT per predisporre i propri termini di servizio.

Il documento prodotto qualifica la piattaforma come venditore diretto dei prodotti, anziché come intermediario tra venditori e acquirenti.

Si tratta di un errore particolarmente grave, perché incide direttamente sul regime di responsabilità. In questo modo, la piattaforma si espone a obblighi e rischi che non le competono, tra cui responsabilità per difetti dei prodotti, gestione dei resi e garanzie legali.

Questo tipo di errore dimostra come una risposta “plausibile” possa essere giuridicamente completamente fuori fuoco se non viene analizzato il modello di business concreto.

Caso 5 – Clausole sui resi e garanzia completamente sbagliate in un e-commerce

Un cliente e-commerce decide di aggiornare autonomamente i propri termini e condizioni chiedendo a ChatGPT di “limitare al massimo i resi e le responsabilità”.

Il sistema genera una clausola che esclude:

• il diritto di recesso in più ipotesi non consentite
• la garanzia legale sui prodotti
• qualsiasi responsabilità del venditore per difetti

Il cliente inserisce il testo sul sito, convinto di aver rafforzato la propria tutela.

Il problema è duplice.

Da un lato, molte di quelle clausole sono nulle ai sensi del Codice del Consumo, perché comprimono diritti inderogabili del consumatore. Dall’altro lato, proprio perché nulle, non solo non proteggono l’azienda, ma possono essere considerate pratiche scorrette o vessatorie, con conseguente rischio di contestazioni e sanzioni.

Inoltre, in caso di controversia, il cliente si troverebbe senza alcuna reale protezione contrattuale, avendo fatto affidamento su clausole inefficaci.

Anche in questo caso, l’errore nasce da una richiesta apparentemente semplice (“limitare i resi”) a cui l’AI ha risposto in modo generico, senza considerare i limiti inderogabili della normativa consumeristica.