Google ha appena introdotto un nuovo strumento AI nelle ricerche che si occupa di rispondere alle domande mediche dell’utente attingendo dai post pubblicati sui social. Così, dopo aver esteso l’accesso alla sua Deep Search anche ai non-iscritti, adesso l’intelligenza artificiale di Big G fa un ulteriore passo avanti nello sconfinato mondo delle ricerche online per proporre una ulteriore serie di risposte basate sulle esperienze condivise dalle persone.
L’azienda ne ha parlato in occasione dell’evento The Check Up 2025 dedicato alle iniziative di Google in ambito salute e intelligenza artificiale. Il colosso sta sviluppando diverse tecnologie per migliorare la salute delle persone attraverso diagnosi, monitoraggio e accesso alle informazioni sanitarie per mezzo degli algoritmi AI.
Il nuovo pannello
Di questo pacchetto fa parte anche il nuovo pannello What People Suggest che al momento appare agli utenti statunitensi che cercano informazioni mediche su Google.
Mettiamo caso che soffriamo di artrite e decidiamo di cercare una soluzione online, allora se l’AI trova abbastanza post sui social per costruire una risposta, nella parte superiore delle ricerche mostrerà questa nuova sezione includendo appunto una serie di “approfondimenti reali da persone che presentano la stessa condizione”.
Il punto è che Google al momento non spiega come intende impedire a questo pannello di mettere in evidenza informazioni potenzialmente errate, ma si limita a dichiarare che nell’ambito medico si è lavorato e lo si continua a fare per “continuare a soddisfare un elevato standard nella fattualità clinica”.
Lo speriamo, visto che da quanto è emerso in una recente ricerca, i riassunti automatici di notizie generati dalla AI producono assurdità; e tra le più diffuse, Gemini è quella che ne è uscita peggio.
I dubbi etici
Il fatto che Google abbia cominciato ad utilizzare l’intelligenza artificiale per visualizzare informazioni mediche provenienti da contributi collettivi solleva più di un interrogativo sull’uso di queste informazioni, anche per quanto riguarda l’affidabilità delle informazioni mediche presentate.
Il 1 luglio 2023 l’azienda ha aggiornato la sua politica sulla privacy per specificare che da quel momento in poi avrebbe potuto utilizzare i dati disponibili pubblicamente per addestrare i suoi modelli AI, e da allora più di una volta si è tornati sull’argomento per discutere delle preoccupazioni legate alla privacy e all’accuratezza delle risposte.
Il caso odierno estende i dubbi anche per quanto riguarda le responsabilità che queste tecnologie hanno nell’interpretazione di tali informazioni, specie quando si utilizzano dati crowdsourced.
Oltre al fatto che anche quando i dati sono “anonimizzati” resta il rischio che, incrociando diverse fonti, si possano ricostruire le identità o ottenere informazioni personali su qualcuno, se un individuo non ha dato esplicitamente il suo consenso per l’uso dei suoi dati per addestrare modelli AI, si pone la questione di quanto etico sia utilizzare queste informazioni.
Peggio ancora se il nuovo pannello di Google viene costruito con post scritti da non esperti o con dati non verificati: il rischio che l’algoritmo diffonda informazioni errate o fuorvianti è alto. A quel punto poi, in caso di errore, chi sarebbe il responsabile?
L’Unione Europea e vari gruppi di esperti stanno già lavorando su regolamenti specifici per affrontare questi rischi, ma Google sembra intanto procedere spedita verso una direzione ancora non completamente regolamentata e decisamente rischiosa per la salute di chi prende per buone le risposte generate dal nuovo pannello senza ulteriori indagini.
Per chi volesse restarne fuori
Ben sapendo che già da qualche giorno Gemini può analizzare automaticamente le query e utilizzare la cronologia di ricerca per migliorare le risposte del chatbot e che l’AI è integrata nelle ricerche di Google da quasi un anno, chi lo desidera può comunque disabilitarle seguendo i passaggi che abbiamo raccolto in questo articolo.
Per tutti gli articoli dedicati all’intelligenza artificiale si parte da questa pagina di macitynet.
