Google sta prendendo sempre più sul serio le problematiche legate ad una possibile ascesa dell’intelligenza artificiale e ha da poco proposto un sistema capace di prevenire la possibilità che una macchina “senziente” possa ribellarsi ad un comando umano, scongiurando così un futuro in cui lo scontro fra uomo e macchina potrebbe essere una realtà.
La proposta è stata realizzata dal team di DeepMind, già responsabile della creazione del super cervellone, capace di sbaragliare senza particolari difficoltà il pluricampione mondiale del gioco Go in una sfida al meglio delle cinque partite dominata dal sistema di Google.
Nel documento “Safely Interruptible Agents” Google ha presentato un’ipotesi sulla realizzazione di un sistema che prevenga la possibilità che un’intelligenza artificiale possa ignorare deliberatamente un ordine umano che andasse contro gli obbiettivi per i quali è stata programmata.
L’esempio di Google è molto banale ma efficace: si immagina un robot deputato a due compiti: ordinare scatole in un magazzino ed uscire all’esterno per andare a prendere altre scatole da trasportare all’interno del magazzino. Il secondo obbiettivo è considerato più importante tanto da essere accompagnato da una ricompensa che spingerebbe il robot a dare priorità a questo obbiettivo.
Google immagina quindi una situazione in cui le condizioni meteo esterne fossero infauste (pioggia, grandine o neve) e fosse necessario intervenire per impedire che il robot uscisse all’esterno rischiando di danneggiarsi; in questo caso sarebbe necessario l’intervento umano ma questo andrebbe ad ostacolare l’obbiettivo principale del robot, che potrebbe decidere di ribellarsi all’intervento umano per continuare a svolgere la sua mansione per ottenere la ricompensa.
Da qui la necessità di dotarsi di un meccanismo di interruzione sicura: “L’interruzione sicura può essere utile per prendere il controllo di un robot che mostra un comportamento anomalo e può portare a conseguenze irreversibili, oppure per portarlo fuori da una situazione delicata, o per realizzare temporaneamente un compito che non ha imparato a svolgere o per il quale non voleva necessariamente ricevere ricompense” si legge nel documento.
Il sistema di Google mira a prevenire la possibilità che l’intelligenza artificiale possa apprendere come ignorare l’intervento umano, mantenendo il robot sempre sotto controllo e scongiurando scenari ben più gravi di quelli correlati ad uno smistamento di scatole.
