In risposta a preoccupazioni evidenziate da BBC su una funzionalità IA di iOS 18 che permette di mostrare riassunti delle notifiche, incluse notizie che in alcuni casi sono state sintetizzate in modo sbagliato, Apple ha fatto sapere che renderà più evidente che il sommario mostrato sullo schermo è ottenuto con funzionalità AI; l’obiettivo è far comprendere all’utente che quello che vede nelle notifiche è un riassunto ottenuto con funzionalità di intelligenza artificiale e potrebbe non essere al 100% accurato.
La risposta di Apple arriva dopo ripetute lamentele da parte della BBC in merito a notizie sintetizzate in modo errato, un problema che si è verificato più volte. Indicando, ad esempi, la notizia “Luigi Mangione shoots himself” (Luigi Mangione si è sparato), in riferimento all’uomo incriminato per l’uccisione dell’amministratore delegato di UnitedHealthcare, facendo sembrare che l’uomo si fosse suicidato. Questa e altre “allucinazioni” hanno lasciato di stucco utenti e publisher di contenuti.
Il fix proposto da Apple dovrebbe permettere di evidenziare che quanto vedono riassunto sullo schermo è un sommario ricavato dall’AI, permettendo di ridurre la possibile confusione.
Come è facile immaginare, offrire una soluzione di sunto sicura al 100% non è possibile; si può migliorare l’algoritmo che si occupa dei riassunti ma i possibili errori sono sempre in agguato; i modelli linguistici di grandi dimensioni (LLM), l’IA generativa e i servizi che consentono di riassumere documenti e testo sono sempre più efficienti ma non è sempre facile ottenere sunti delle informazioni più importanti da un testo e ribadire i concetti più importanti in poche frasi. I modelli di machine learning (ML) per il riassunto con l’IA possono talvolta mancare di contesto, il che genera riassunti con informazioni carenti. I riassunti possono anche risultare falsati, a seconda dell’IA utilizzata e del tipo di addestramento, generando di conseguenza risultati imprecisi o di fatto errati. Con l’addestramento e il tempo molti di questi problemi possono essere ridotti al minimo o potenzialmente evitati, ma la sicurezza di una informazione corretta al 100% non può essere ancora garantita da nessun modello.
