Non sorprende che OpenAI, creatore di ChatGPT, stia costruendo una squadra e un team dedicati alla preparazione e mitigazione contro i possibili effetti catastrofici dell’Intelligenza Artificiale AI.
Più volte nelle sue interviste Sam Altman ha parlato in modo accalorato delle possibilità enormi dell’Intelligenza artificiale, sia in modo positivo per i vantaggi, tanto quanto per gli aspetti negativi, in grado persino di mettere a rischio l’economia di mercato fino l’esistenza stessa della specie umana.
Con la creazione del team di preparazione OpenAI contro le minacce AI veniamo a conoscenza dei dettagli. Gli esperti tracceranno, valuteranno, prevederanno e proteggeranno da problemi potenzialmente gravi causati dall’Intelligenza Artificiale, fino ad arrivare a includere le minacce nucleari.
Compito del team è mitigare «Minacce chimiche, biologiche e radiologiche» e anche la replicazione autonoma, in pratica una intelligenza artificiale che si replica. Tra le altre minacce e rischi dell’AI la capacità di ingannare gli esseri umani e gli attacchi di sicurezza informatica.
Il tono della dichiarazione di intenti è sempre quello che abbiamo sentito più volte anche da Sam Altman, cofondatore di OpenAI:
«Crediamo che i modelli di intelligenza artificiale di frontiera, che supereranno le capacità attualmente presenti nei modelli esistenti più avanzati, abbiano il potenziale per apportare benefici a tutta l’umanità. Ma comportano anche rischi sempre più gravi».
Il nuovo team contro i possibili rischi catastrofici dell’AI offrirà anche una politica di sviluppo informata sul rischio, monitorando quanto l’azienda sta facendo per valutare e monitorare i modelli AI.
C’è anche una sfida che mette in palio 25.000 dollari in crediti API per chi presenta nuove aree di potenziale pericolo. OpenAI premierà fino a un massimo delle 10 proposte migliori inoltre selezionerà candidati per il team tra i vincitori della sfida.
Non è la prima volta che i padri dell’Intelligenza artificiale avvertono su possibili rischi esistenziali. Nel frattempo però l’intelligenza artificiale sta arrivando ovunque, anche nelle nuove funzioni di Google Maps, mentre Apple investe miliardi per recuperare terreno.
Tutti gli articoli che parlano di intellingeza artificiale sono disponibili nella sezione dedicata di maacitynet.
