AGCM e AI: la mancata informativa sulle “allucinazioni” è pratica commerciale scorretta

L’Autorità Garante della Concorrenza e del Mercato (AGCM) ha avviato un procedimento nei confronti di ScaleUp, società che gestisce la piattaforma NOVA, una chatbox di intelligenza artificiale che integra diversi modelli (GPT-4, Gemini, Claude, ecc.).
Il punto critico? L’assenza di un’adeguata informativa ai consumatori sui limiti tecnologici del servizio, in particolare sul fenomeno delle cosiddette allucinazioni dell’AI: risposte apparentemente plausibili, ma in realtà inesatte, fuorvianti o inventate.

Vediamo di cosa si tratta.

Se ti interessa capire come evitare casi simili, leggi la guida sulla documentazione legale che ogni fornitore di app basate su intelligenza artificiale dovrebbe predisporre per i propri clienti.

Cosa ha rilevato l’AGCM

Dall’analisi del sito e dell’applicazione NOVA, l’Autorità ha riscontrato che:

• non compare alcun disclaimer sul rischio di allucinazioni, né nelle finestre di dialogo né nei termini e condizioni;
• i consumatori non vengono informati in modo chiaro e trasparente sulle piattaforme effettivamente utilizzate e sul valore aggiunto di NOVA rispetto ai modelli di base (es. GPT o Gemini);
• l’offerta di abbonamenti a pagamento è proposta senza chiarire con precisione le caratteristiche aggiuntive rispetto alla versione gratuita.

In altre parole, al consumatore viene dato l’impressione che il servizio sia del tutto affidabile e completo, inducendolo a prendere decisioni di acquisto senza una reale consapevolezza dei limiti del prodotto.

I profili di illiceità contestati dall'Autorità

Secondo l’AGCM, tale condotta integra una pratica commerciale scorretta ai sensi degli artt. 20, 21 e 22 del Codice del consumo.
Due sono le omissioni centrali:

1. Rischio di allucinazioni – mancanza di avvertenze sulla possibile generazione di contenuti errati, nonostante l’uso potenziale dell’AI in settori sensibili (salute, finanza, diritto).
2. Informazioni sul servizio – comunicazioni confuse sulle piattaforme effettivamente disponibili e sul reale beneficio dell’abbonamento.

La mancata trasparenza incide sulla “decisione commerciale” dell’utente, che può scegliere NOVA confidando ingiustificatamente nella correttezza delle risposte generate.

I prossimi step

Il procedimento avviato dall’AGCM:

• si concluderà entro 270 giorni, con possibile sanzione amministrativa pecuniaria;
• prevede la richiesta a ScaleUp di fornire informazioni dettagliate su servizi, utenti e modalità di promozione;
• implica anche la consultazione dell’Autorità per le Garanzie nelle Comunicazioni (AGCom).

Riflessioni per il settore dell'Intelligenza Artificiale

Il caso evidenzia un principio cruciale:

Offrire servizi di intelligenza artificiale senza informare adeguatamente i consumatori sui limiti intrinseci della tecnologia costituisce violazione delle regole a tutela del consumatore.

Per gli operatori di AI significa:

• adottare disclaimer chiari e visibili sui rischi di allucinazioni;
• garantire trasparenza nelle caratteristiche dei servizi offerti;
• evitare comunicazioni ambigue che possano indurre a errori di valutazione commerciale.