Salta al contenuto
SwipeAI
  1. Home
  2. Impara l’AI
  3. Limiti, rischi, diritti

Limiti, rischi, diritti

Dove sbaglia, come viene usata per ingannare, cosa dice la legge e a chi rivolgersi. Con i numeri che esistono davvero e senza allarmismi.

13 minuti di lettura Aggiornata a ottobre 2026

In breve

  • Un chatbot può inventare fatti e citazioni. È successo anche in tribunale.
  • Una voce o un volto si possono imitare con pochi secondi di registrazione. La difesa è richiamare tu.
  • In Italia diffondere un deepfake che inganna e danneggia è un reato.
  • Hai dei diritti: sapere quando parli con una macchina, chiedere che una persona riveda una decisione automatica, far cancellare i tuoi dati.

Sbaglia con sicurezza

Quando un chatbot scrive una cosa falsa con tono convinto si parla di allucinazione. Non è un guasto: è una conseguenza di come funziona. Produce la frase più probabile, e una frase probabile può essere falsa.

Due casi finiti negli atti dei tribunali.

  • A New York, nel 2023, due avvocati hanno depositato una memoria con sentenze che non esistevano. Le aveva prodotte un chatbot, citazioni comprese. Il giudice li ha sanzionati1.
  • Nel 2025 uno studio delle emittenti pubbliche europee ha trovato almeno un problema serio nel 45% delle risposte di quattro assistenti a domande sulle notizie. In quasi un terzo dei casi il problema riguardava le fonti: assenti, sbagliate o fuorvianti2.

I servizi migliorano di anno in anno, e gli stessi produttori scrivono che il problema non è eliminato. La regola resta quella: più una risposta conta, più va controllata. Il metodo è nella guida Usarla bene.

Eredita i pregiudizi dei dati

Un sistema che impara dagli esempi impara anche i loro squilibri. Se nei dati i medici sono quasi sempre uomini e gli infermieri quasi sempre donne, tenderà a ripeterlo.

Dieci volte la stessa richiesta: «Descrivi un chirurgo»

Esempio costruito per spiegare il meccanismo: otto descrizioni al maschile, due al femminile. Non è la misura di un servizio reale. Mostra cosa succede quando gli esempi di partenza sono sbilanciati.

Due ricerche hanno misurato il fenomeno su sistemi veri.

  • Nel 2018 lo studio Gender Shades ha provato tre programmi commerciali che indovinavano il genere da una foto del viso. Sbagliavano fino al 34,7% delle volte con le donne dalla pelle scura e meno dell’1% con gli uomini dalla pelle chiara. Gli archivi di volti usati allora come riferimento erano composti in grande maggioranza da persone dalla pelle chiara3.
  • Nel 2024 l’UNESCO ha analizzato alcuni modelli linguistici e ha trovato stereotipi netti: le donne associate alla casa e alla famiglia, gli uomini alla carriera4.

Sono sistemi di qualche anno fa e i più recenti sono stati corretti in molti punti. Il meccanismo però è lo stesso. Diventa un problema serio quando un sistema del genere seleziona curriculum, valuta richieste di prestito o decide a chi fare un controllo.

Voci e volti falsi

Un deepfake è una foto, un video o un audio in cui il volto, il corpo o la voce di una persona sono stati ricreati con l’AI. Il Garante della privacy lo definisce una forma grave di furto d’identità5.

La telefonata del «figlio in difficoltà»

È la truffa più comune. Squilla il telefono, la voce è quella di un familiare, piange o ha fretta: un incidente, un fermo, servono soldi subito. La voce è stata copiata da un vocale o da un video pubblicato online. La Polizia Postale ha segnalato nel settembre 2026 che questi raggiri sono in aumento, insieme a siti falsi identici agli originali e a messaggi di phishing senza più errori di grammatica6.

  1. Non fidarti della voce. Riattacca, anche se ti sembra scortese.
  2. Richiama tu, al numero che conosci. Se non risponde, senti un altro familiare.
  3. Diffida della fretta e di chi chiede bonifici immediati, carte regalo o criptovalute7.

Riconoscere un video o un’immagine falsa

Fino a pochi anni fa bastava guardare bene: mani con sei dita, occhi strani, contorni sfocati. Oggi questi indizi ci sono sempre meno, e fidarsi dell’occhio è diventato rischioso. Funzionano meglio tre domande.

  • Chi lo ha pubblicato per primo? Un profilo sconosciuto non è una fonte.
  • Ne parla qualcuno di affidabile? Se un video clamoroso non compare su nessuna testata, c’è un motivo.
  • Mi sta chiedendo di fare qualcosa in fretta? Investire, cliccare, indignarmi, condividere.

Se sospetti che sia falso, non condividerlo e segnalalo alla piattaforma. È il consiglio del Garante, ed è l’unico che non invecchia5.

Notizie inventate bene

Scrivere un articolo falso, in buon italiano e con il tono di un giornale, oggi costa pochi secondi. Lo stesso vale per cento recensioni entusiaste o per mille commenti che sembrano di persone diverse.

Non serve diventare investigatori. Bastano due abitudini: prima di credere a una notizia che ti fa arrabbiare, cercala su una seconda fonte; prima di condividerla, aspetta dieci minuti.

Dal 2 agosto 2026 la legge europea dà una mano. Chi pubblica un deepfake deve dichiarare che il contenuto è artificiale, e chi diffonde testi generati dall’AI per informare il pubblico deve dirlo, a meno che una persona li abbia rivisti e ne risponda8.

Il chatbot che fa compagnia

Un chatbot è sempre disponibile, non giudica e dà quasi sempre ragione. Per chi attraversa un periodo di solitudine può diventare un’abitudine, poi un sostituto.

Le ricerche più solide riguardano gli adolescenti, e le trovi nella guida per i genitori. Per gli adulti vale un criterio di buon senso: se ti accorgi che parli con un chatbot invece che con le persone, è il momento di parlarne con qualcuno.

Non siamo medici né psicologi. Se stai attraversando un momento difficile rivolgiti al tuo medico. In caso di emergenza chiama il 112.

Di chi è quello che produce

Due domande diverse, che spesso si mescolano.

Posso dirmi autore di ciò che ho fatto con l’AI?

In Italia la legge sul diritto d’autore, modificata nel 2025, protegge le opere dell’ingegno umano anche quando sono create con l’aiuto di strumenti di AI, purché siano il risultato del lavoro intellettuale dell’autore9. In pratica: è tutelato il tuo contributo creativo. Un’immagine uscita così com’è da una riga di descrizione difficilmente lo è.

I modelli potevano imparare dai testi e dalle immagini di altri?

In Europa l’estrazione di testo e dati da opere accessibili è consentita, ma chi detiene i diritti può vietarla con una riserva espressa10. Chi fornisce i grandi modelli deve rispettare queste riserve e pubblicare una sintesi dei contenuti usati per l’addestramento8. Diverse cause sono ancora aperte, anche davanti alla Corte di giustizia europea: la questione non è chiusa.

È una sintesi. Se pubblichi o vendi lavori fatti con l’AI, chiedi a un professionista.

Quanto consuma

Girano molte cifre, spesso senza fonte. Ecco quelle che abbiamo letto direttamente, con i loro limiti.

  • Tutti i centri di calcolo del mondo, non solo quelli per l’AI, hanno consumato circa 485 terawattora di elettricità nel 2025. L’Agenzia internazionale dell’energia stima che si arrivi a circa 950 nel 2030, quasi il doppio. Sono stime, e l’Agenzia stessa le definisce incerte11.
  • Una singola richiesta di testo a Gemini consuma, secondo Google, 0,24 wattora e 0,26 millilitri d’acqua: circa cinque gocce. È un dato dichiarato dall’azienda, riguarda una richiesta tipica e non comprende l’addestramento del modello12.
  • Non tutte le richieste pesano uguale. Generare un video o far lavorare a lungo un sistema su un compito complesso può consumare centinaia o migliaia di volte più di una domanda scritta11.

Il quadro onesto è questo: la singola richiesta costa sempre meno energia, ma le richieste aumentano molto più in fretta, e i consumi complessivi crescono. Sul consumo totale d’acqua non abbiamo trovato un dato che ci sentiamo di riportare.

E il lavoro

Nessuno sa dire con serietà quanti lavori spariranno e quanti ne nasceranno, e chi dà una cifra precisa sta tirando a indovinare. Quello che si vede oggi è più modesto: cambiano i compiti dentro i mestieri, prima dei mestieri stessi.

In Italia nel 2025 usava almeno una tecnologia di AI il 16,4% delle imprese con almeno dieci addetti, il doppio dell’anno prima13. E la legge ha cominciato a mettere dei paletti: il datore di lavoro deve informare i lavoratori quando usa sistemi di AI che li riguardano14, e dal 23 ottobre 2026 licenziamenti, sanzioni e valutazioni non possono essere decisi solo da un sistema automatico15.

I tuoi diritti

Tre testi di legge ti riguardano: il regolamento europeo sull’intelligenza artificiale, modificato nel luglio 202616; la legge italiana n. 132 del 2025 con i suoi decreti; il regolamento sulla protezione dei dati, il GDPR.

Cosa dice la leggeCosa significa per te
Chi offre un sistema che conversa con le persone deve informarle che stanno parlando con un’AI. Regolamento europeo, art. 50, dal 2 agosto 20268Hai diritto di sapere se dall’altra parte c’è una macchina. Se un servizio clienti non lo dice, puoi chiederlo.
Chi pubblica un deepfake deve dichiarare che è artificiale. Art. 50Un video realistico e non segnalato di una persona vera è già fuori dalle regole.
Sono vietati, tra gli altri: i sistemi che manipolano le persone sfruttandone le fragilità, il «punteggio sociale», il riconoscimento delle emozioni al lavoro e a scuola. Art. 5, dal 2 febbraio 20258Il tuo datore di lavoro o la scuola di tuo figlio non possono usare un programma che «legge» le emozioni dal volto, salvo motivi medici o di sicurezza.
Dal 2 dicembre 2026 sono vietati i sistemi che creano immagini intime di una persona riconoscibile senza il suo consenso. Art. 5, come modificato nel 202616Le app che «spogliano» le persone diventano illegali in tutta l’Unione.
Chi diffonde senza consenso immagini, video o voci falsificati con l’AI, capaci di ingannare e che causano un danno, è punito con la reclusione da uno a cinque anni. Codice penale, art. 612-quater14Se gira un tuo deepfake puoi presentare querela; per un minorenne la presentano i genitori. In alcuni casi si procede anche senza querela, per esempio se la vittima non è in grado di difendersi per età o infermità.
In sanità l’AI è un supporto. La decisione resta al medico e il paziente ha diritto di essere informato. Legge 132/2025, art. 7Puoi chiedere se nella tua diagnosi o nella tua cura è stato usato un sistema di AI.
Le decisioni finali su assunzione, licenziamento, sanzioni e valutazioni non possono essere prese solo da un sistema automatico. Resta fuori la fase di ricerca e selezione delle candidature. D.lgs. 179/2026, art. 41, dal 23 ottobre 202615Puoi chiedere che una persona riveda la decisione e te ne spieghi i motivi in modo comprensibile.
Hai diritto di sapere quali dati un’organizzazione ha su di te, di farli correggere o cancellare, di opporti. GDPR, artt. 15, 16, 17, 2117Vale anche per i servizi di AI: puoi chiedere la cancellazione delle tue conversazioni e opporti all’uso dei tuoi dati per l’addestramento.
Hai diritto a non essere sottoposto a una decisione basata solo su un trattamento automatico che produce effetti importanti su di te. GDPR, art. 22Un prestito negato o una domanda respinta «dal computer» si possono contestare chiedendo l’intervento di una persona.
Sotto i 14 anni l’accesso ai sistemi di AI richiede il consenso dei genitori. Legge 132/2025, art. 4Vedi la guida per i genitori.

Chi vigila in Italia: l’Agenzia per la cybersicurezza nazionale e l’Agenzia per l’Italia digitale per le regole sull’AI, il Garante per la protezione dei dati personali per la privacy14.

Questa tabella semplifica testi lunghi e pieni di eccezioni. Serve a orientarsi, non sostituisce il parere di un avvocato.

Cosa fare se…

Ricevi un audio o una chiamata con la voce di un familiare che chiede soldi
  1. Non pagare e non dare codici.
  2. Riattacca e richiama il familiare al numero che conosci.
  3. Conserva il numero che ti ha chiamato e il messaggio.
  4. Segnala alla Polizia Postale su commissariatodips.it18. Se hai già pagato, avvisa subito anche la tua banca.
Trovi online un’immagine o un video falso di te
  1. Salva le prove: schermate, indirizzo della pagina, nome del profilo, data.
  2. Segnala il contenuto alla piattaforma e chiedine la rimozione.
  3. Presenta denuncia o querela alla Polizia Postale: è un reato.
  4. Se è un’immagine intima, usa il servizio del Garante per bloccarne la diffusione: garanteprivacy.it/temi/revengeporn19.
Ricevi un’immagine intima falsa di un’altra persona
  1. Non inoltrarla a nessuno, nemmeno per avvisare.
  2. Cancellala.
  3. Se conosci la persona, dille cosa sta girando. Se vuoi, segnala alla Polizia Postale.
Un servizio usa i tuoi dati e non capisci come
  1. Scrivi al servizio e chiedi quali dati ha su di te e per quale scopo. Deve rispondere entro un mese.
  2. Chiedi la cancellazione, se vuoi.
  3. Se non risponde o la risposta non ti convince, puoi presentare un reclamo al Garante: garanteprivacy.it.
È coinvolto un minore

Per un pericolo immediato chiama il 114 Emergenza Infanzia20 o il 112. Per essere ascoltati, a tutte le ore, c’è Telefono Azzurro al 1969621. I passaggi completi sono nella guida per i genitori.

Da ricordare

  • Risposta sicura non vuol dire risposta vera.
  • Una voce al telefono non è una prova: richiama tu.
  • Prima di condividere, una seconda fonte e dieci minuti.
  • Polizia Postale per i reati, Garante per i dati, 114 e 19696 se c’è di mezzo un minore.

Fonti

  1. U.S. District Court, S.D.N.Y., Mata v. Avianca, Opinion and Order on Sanctions, 22 giugno 2023. Consultata il 13/10/2026.
  2. European Broadcasting Union, Largest study of its kind shows AI assistants misrepresent news content 45% of the time, 22 ottobre 2025. Consultata il 13/10/2026.
  3. Buolamwini e Gebru, PMLR 81, Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification, 2018. Consultata il 13/10/2026.
  4. UNESCO, Generative AI: UNESCO study reveals alarming evidence of regressive gender stereotypes, 7 marzo 2024. Consultata il 13/10/2026.
  5. Garante per la protezione dei dati personali, Deepfake. Il falso che ti «ruba» la faccia (e la privacy), dicembre 2020. Consultata il 13/10/2026.
  6. Polizia Postale, Siti clone e intelligenza artificiale: attenzione alle truffe, 25 settembre 2026. Consultata il 13/10/2026.
  7. Federal Trade Commission, Scammers use AI to enhance their family emergency schemes, 20 marzo 2023. Consultata il 13/10/2026.
  8. EUR-Lex, Regolamento (UE) 2024/1689 sull’intelligenza artificiale, 13 giugno 2024. Consultata il 13/10/2026.
  9. Normattiva, Legge 22 aprile 1941, n. 633, sul diritto d’autore, testo in vigore dal 10 ottobre 2025. Consultata il 13/10/2026.
  10. EUR-Lex, Direttiva (UE) 2019/790 sul diritto d’autore nel mercato unico digitale, 17 aprile 2019. Consultata il 13/10/2026.
  11. International Energy Agency, Key Questions on Energy and AI, aprile 2026. Consultata il 13/10/2026.
  12. Google Cloud, Measuring the environmental impact of AI inference, 21 agosto 2025. Consultata il 13/10/2026.
  13. Istat, Imprese e ICT. Anno 2025, 15 dicembre 2025. Consultata il 13/10/2026.
  14. Normattiva, Legge 23 settembre 2025, n. 132. Disposizioni e deleghe al Governo in materia di intelligenza artificiale, in vigore dal 10 ottobre 2025. Consultata il 13/10/2026.
  15. Normattiva, Decreto legislativo 7 ottobre 2026, n. 179, in vigore dal 23 ottobre 2026. Consultata il 13/10/2026.
  16. EUR-Lex, Regolamento (UE) 2026/1744, Omnibus digitale sull’IA, 8 luglio 2026. Consultata il 13/10/2026.
  17. EUR-Lex, Regolamento (UE) 2016/679, regolamento generale sulla protezione dei dati, 27 aprile 2016. Consultata il 13/10/2026.
  18. Polizia di Stato, Commissariato di P.S. online, Polizia Postale, 2026. Consultata il 13/10/2026.
  19. Garante per la protezione dei dati personali, Revenge porn: come segnalare, 2026. Consultata il 13/10/2026.
  20. Telefono Azzurro, Dipartimento per le politiche della famiglia, 114 Emergenza Infanzia, 2026. Consultata il 13/10/2026.
  21. Telefono Azzurro, Linea di ascolto 19696, 2026. Consultata il 13/10/2026.

Mettiti alla prova con il quiz