Apple non ha ancora risposto
Cos'è successo? Pochi giorni dopo che lo strumento di riepilogo delle notifiche basato sull'intelligenza artificiale di Apple ha pubblicato un falso titolo della BBC su Luigi Mangione, un importante ente commerciale sta esortando l'azienda a rimuovere del tutto la funzionalità. È l’ultima battuta d’arresto nei tentativi di Apple di convincere i clienti che vale la pena utilizzare la sua intelligenza artificiale.
Il 13 dicembre, Apple Intelligence, che ha una storia di errori significativi quando si tratta di riassumere le notifiche, ha pubblicato un riassunto di diversi titoli della BBC che includevano l’affermazione secondo cui Mangione si era suicidata. L'incidente è avvenuto appena 48 ore dopo il lancio di Apple Intelligence nel Regno Unito.
Per gentile concessione di BBC News
Mangione, che è stato arrestato e accusato dell'omicidio di primo grado del CEO di UnitedHealthcare Brian Thompson a New York, non si è suicidato. Rimane detenuto presso l'Huntingdon State Correctional Institution nella contea di Huntingdon, in Pennsylvania.
Non è certo la prima volta che Apple Intelligence commette un errore in una notifica riepilogativa. In precedenza aveva affermato che il primo ministro israeliano Benjamin Netanyahu era stato arrestato dopo che la Corte penale internazionale aveva emesso un mandato di arresto.
Reporter Senza Frontiere (RSF), una ONG internazionale senza scopo di lucro impegnata nella tutela del diritto alla libertà di informazione, chiede ad Apple di disattivare la funzione di riepilogo delle notifiche.
RSF scrive che questo incidente illustra come i servizi di intelligenza artificiale generativa siano ancora troppo immaturi per produrre informazioni affidabili per il pubblico e non dovrebbero essere ammessi sul mercato per tali usi.
Il gruppo ha aggiunto che il modo probabilistico in cui operano i sistemi di intelligenza artificiale li squalifica automaticamente come tecnologia affidabile per i media.
“Le IA sono macchine basate sulla probabilità e i fatti non possono essere decisi con un lancio di dadi. RSF invita Apple ad agire in modo responsabile rimuovendo questa funzionalità. La produzione automatizzata di informazioni false attribuite a un organo di informazione è un duro colpo per la sua credibilità. e un pericolo per il diritto del pubblico a un'informazione attendibile sugli eventi attuali, dichiara Vincent Berthier, capo dell'ufficio Tecnologia e Giornalismo di RSF.
“La legislazione dell’UE sull’IA – nonostante sia la legislazione più avanzata al mondo in questo settore – non ha classificato le IA che generano informazioni come sistemi ad alto rischio, lasciando una lacuna giuridica critica. Questa lacuna deve essere colmata immediatamente. »
La BBC ha contattato Apple quando è venuta a conoscenza del titolo falso per sollevare preoccupazioni e chiedere all'azienda di risolvere il problema.
L'avviso sommario in questione riportava tre titoli: quello falso su Mangione, e due titoli corretti, sul rovesciamento del regime di Bashar al-Assad in Siria e un aggiornamento sul presidente sudcoreano Yoon Suk Yeol.
Apple afferma che la capacità di riepilogo della sua intelligenza artificiale consente agli utenti di analizzare notifiche lunghe o impilate con dettagli chiave direttamente sulla schermata di blocco, ad esempio quando una chat di gruppo è particolarmente attiva. Spesso sbaglia i riassunti o non riesce a capirne il contesto, a volte in modo esilarante.
La diffusione di notizie false metterà sempre Apple nei guai, soprattutto in un momento in cui le aziende stanno cercando di convincere le persone che l’intelligenza artificiale è il futuro di quasi tutto. Apple deve ancora rispondere all'incidente, ma non aspettarti che rimuova permanentemente la funzionalità. Al massimo Cupertino potrebbe disattivarlo per un po'.
