Una nuova famiglia di modelli AI di Google vanta la peculiarità di poter identificare le “emozion”. Lo riferisce il sito statunitense TechCrunch evidenziando possibili scenari preoccupanti da parte di esperti e ricercatori per tutto ciò che questo implica.
PaliGemma 2 è un modello di linguaggio visivo ispirato a PaLI-3 che promette prestazioni di alto livello su vari compiti di visione-linguaggio, incluse risposte a domande visive, comprensione del testo nelle immagini, rilevamento e segmentazione di oggetti. È possibile analizzare immagini e permettere all’AI di generare didascalie e rispondere a domande sulle persone che “vede” nelle foto. Google riferisce che questa AI va al di là della possibilità di identificare oggetti, spiegando che è in grado di “descrivere azioni, emozioni e la narrazione complessiva della scena“. Il riconoscimento delle emozioni deve essere perfezionato ma c’è già chi pone domande su tutto quello che questo potrebbe comportare.
“Il rilevamento delle emozioni non è i generale possibile perché le persone le vivono con modalità complesse”, spiega Mike Cook, ricercatore della Queen Mary University specializzato in AI. “Pensiamo di poter capire cosa sentono le altre persone guardandole e molti ci hanno provato per anni, comprese agenzie di spionaggio e società di marketing. Sono sicuro che sia possibile individuare in alcuni casi generici elementi «significanti», non è qualcosa che si possa comprendere definitivamente”. Di conseguenza i sistemi che dovrebbero individuare emozioni tendono a essere inaffidabili e distorti da supposizioni soggettive dei loro progettisti.
“Interpretare le emozioni è una questione piuttosto soggettiva, cha va oltre l’uso di ausili visivi ed è fortemente radicata nel contesto personale e culturale”, spiega Heidy Khlaaf, AI scientist dell’AI Now Institute, nonprofit che studia le implicazioni sociali dell’intelligenza artificiale. “AI a parte, ricerche hanno dimostrato che non possiamo dedurre emozioni esclusivamente dalle espressioni facciali”.
Khlaaf sottolinea che l’abuso o uso improprio di queste “supposizioni pseudoscientifiche” potrebbe avere implicazioni rilevanti, portando a discriminazioni da parte di gruppi quali forze dell’ordine, personale per recruiting di risorse umane, nella governance transfrontaliera e così via.
Anche Sandra Wachter, professore specializzata nell’etica dei dati e AI dell’Oxford Internet Institute, evidenzia potenziali problemi, un insieme di questioni che potrebbero portare a un “futuro distopico”, dove individuare le emozioni potrebbe determinare “se otterremo un lavoro, un prestito, l’ammissione all’università…”.
Tutti gli articoli che parlano di Intelligenza Artificiale sono nella sezione dedicata di macitynet.
