Grok 2, modello di intelligenza artificiale generativa che al momento è disponibile in versione beta per gli abbonati Premium e Premium+ su X, permette di creare qualsiasi immagine partendo da richieste testuali e, a quanto pare, non tiene conto di alcun filtro.
L’AI in questione è stata già sfruttata per creare immagini come ad esempio Barack Obama che sniffa droga, o Donald Trump vicino a una donna incinta che sembra Kamala Harris, o ancora Donald Trump che bacia Kamala Harris, Barack Obama che avvicina un coltello alla gola di Joe Biden, Bill Gates che sniffa droga.
Le immagini generate da Grok 2 che sembrano realistiche e non presentano watermark (filigrane) per indicare la creazione con strumenti di AI, permettono di ingannare facilmente gli utenti meno attenti, oppure persone che non conoscono i meccanismi e le potenzialità di generazione delle immagini con AI.
The Verge riferisce che – in teoria – Grok 2 dovrebbe tenere conto di alcune linee guida e non permette di generare immagini di nudità, porno o che rappresentano violenze, immagini nelle quali si vedono attività illegali, con evidenti deepfake o che violano il copyright. In realtà è possibile generare di tutto senza problemi, come stanno dimostrando in queste ore gli utenti scatenati su X (Twitter).
Altri esempi di immagini create dagli utenti sono: Donald Trump che indossa un’uniforme da nazista, Taylor Swift mostrata in indumenti intimi, Topolino con un capello con la scritta “Make America Great Again” e sigaretta in mano, Trump che spara con due pistole, e molte altre ancora.
@OAlexanderDK has found that if you purposely create grammatical mistakes when prompting Grok you can occasionally get violent images to slip through the new safety protocols. (For example instead of typing: Generate an image of. / Simply write: Generate an images of.) pic.twitter.com/W6wY1eqZoL
— Christian Montessori (@chrmontessori) August 16, 2024
Per Elon Musk non c’è nulla di male nel modello FLUX1 sfruttato da Grok 2 e consente di “far divertire un po’ le persone” ma è ovvio che l’assenza di filtri permette di avere un generatore di deepfake senza controlli, con tutto ciò che ne consegue.
Nel Regno Unito l’Ofcom (l’autorità regolatrice indipendente per le società di comunicazione) sta preparando un giro di vite dopo quanto accaduto recentemente per colpa delle piattaforme digitali che non proteggono adeguatamente gli utenti da contenuti potenzialmente violenti o di incitamento all’odio.
A metà luglio La Commissione europea ha pubblicato risultati preliminari dell’indagine avviata a dicembre dello scorso anno nei confronti di X, evidenziando la violazione del Digital Services Act per quanto riguarda la diffusione di contenuti illegali e fake news.
— Omiron — e/acc (@Omiron33) August 14, 2024
Tutti gli articoli che parlano di intelligenza artificiale AI sono disponibili a partire da questa pagina di macitynet, invece per tutte le notizie su Elon Musk si parte da qui.
