Con l’introduzione della beta di iOS 18.3, Apple aveva lanciato una funzionalità innovativa basata su intelligenza artificiale: i riassunti automatici delle notizie direttamente sulla schermata di blocco degli iPhone. Tuttavia, un grave errore ha messo in discussione la credibilità del sistema. La funzione, alimentata da un modello di linguaggio avanzato (LLM, Large Language Model), ha generato una fake news attribuendola alla Bbc, costringendo Apple a sospendere il servizio. In pratica la iA di Apple genera fake news. Sospeso il servizio di riassunto delle notizie su iPhone
Il caso Bbc, le fake news e il fenomeno delle allucinazioni
A dicembre, l’AI di Apple Intelligence ha erroneamente sintetizzato una notizia riguardante l’omicidio di Brian Thompson, amministratore delegato di United Healthcare. Secondo il riassunto generato e mostrato sulla schermata di blocco, la Bbc avrebbe riportato che Luigi Mangione, l’assassino, si era suicidato. La notizia era completamente falsa e l’articolo citato non esisteva sul sito della Bbc.
Questo errore non è isolato, ma rappresenta un fenomeno noto come “allucinazione” nell’ambito delle intelligenze artificiali. Le allucinazioni si verificano quando i modelli di linguaggio generano contenuti non basati su dati reali, ma frutto di inferenze errate o di un’elaborazione sbagliata delle informazioni. In questo caso, la sintesi dell’IA ha mescolato elementi di verità con dettagli inventati, creando una fake news credibile ma inesistente.
L’emergere di questa fake news ha evidenziato i limiti del sistema di sintesi basato su LLM, che, pur avanzato, ha mostrato gravi carenze nel verificare l’accuratezza delle informazioni e soprattutto nel comprendere le notizie riportate.
Apple sospende la funzione e rivede il progetto
Con il rilascio della terza beta di iOS 18.3, Apple ha annunciato la sospensione temporanea del servizio di riassunti automatici. L’azienda ha dichiarato che la funzionalità era ancora in fase sperimentale e che “potrebbe contenere errori”. Tuttavia, ha anche chiarito che il progetto non è stato abbandonato e che le sintesi generate dall’IA saranno riproposte in futuro, con un aggiornamento software mirato a migliorarne l’affidabilità.
Per aumentare la trasparenza, Apple consentirà agli utenti di personalizzare l’uso della funzione, disattivandola per specifiche categorie come le notizie o i social network. Inoltre, i contenuti generati dall’AI saranno visivamente distinguibili grazie all’uso del corsivo, un tentativo di separare chiaramente le sintesi automatizzate dalle notifiche tradizionali.
LLM, allucinazioni e i rischi delle fake news
La tecnologia dietro Apple Intelligence si basa su modelli di linguaggio avanzati (LLM), capaci di analizzare e sintetizzare grandi quantità di dati. Tuttavia, questi modelli presentano limiti significativi, soprattutto nella gestione di contenuti complessi come le notizie. Le allucinazioni sono uno dei problemi più critici: i modelli possono generare contenuti apparentemente credibili ma del tutto infondati. Questo fenomeno è particolarmente pericoloso quando riguarda argomenti delicati come notizie di cronaca o questioni politiche.
L’errore della fake news attribuita alla Bbc dimostra che, nonostante i progressi dell’IA generativa, è ancora necessaria una supervisione umana per evitare gravi errori.
iA di Apple genera fake news e adesso?
La sospensione del servizio di Apple Intelligence solleva questioni più ampie sull’affidabilità dell’IA nel trattamento delle informazioni. L’errore della fake news non è solo un problema tecnologico, ma anche etico: come possono le aziende garantire che i loro sistemi di IA non diventino strumenti di disinformazione?
Apple dovrà dimostrare di saper affrontare questi rischi prima di rilanciare la funzione. Nel frattempo, l’azienda ha annunciato che gli aggiornamenti stabili di iOS 18.3, iPadOS 18.3, macOS 15.3 e visionOS 2.3 saranno disponibili entro fine gennaio o inizio febbraio 2025. Resta da vedere se la prossima iterazione della funzione saprà offrire un’esperienza affidabile e sicura per gli utenti.
Francesca Rampazzo
Leggi anche
- L’intelligenza artificiale non esiste
- 5 segreti dell’intelligenza artificiale che nessun giornalista o corso on line racconta chiaramente
- L’intelligenza artificiale generativa è una minaccia per la democrazia? Dipende da noi
- Gemini, l’IA di Google, impazzisce e scrive: “Per favore muori”
- Pericolo algograzia, la dittatura di algoritmi e iA
- I pericoli dell’ideologia Woke e del politicamente corretto per la libertà di pensiero
Redazione 
Ginevra Leone