La Commissione europea ha previsto in una bozza l’obbligo per aziende come Google, Meta e altre ancora di individuare e rimuovere la pedopornografia online, e ora una funzionalità simile è richiesta nella Safety Bill del governo del Regno Unito, un disegno di legge che rischia di mettere un freno alle tecnologie di cifratura end-to-end, funzionalità che consentono di cifrare ad esempio i messaggi delle chat, inaccessibili anche per le piattaforme che li gestiscono per ragioni di privacy.
In una proposta inviata all’Office of Communications(OFCOM) – l’autorità indipendente a cui risulta affidata nel Regno Unito la regolamentazione del settore delle comunicazioni – si fa riferimento alla possibilità di obbligare piattaforme e servizi online vari a implementare tecnologie di scansione dei contenuti, anche quando le piattaforme in questione sfruttano tecnologie di cifratura end-to-end (in altre parole senza possibilità di accesso a terze parti, comprese le piattaforme stesse).
Priti Patel, segretario di Stato per gli affari interni, ha riferito che il governo vuole con il disegno di legge maggiori poteri per contrastare gli abusi sessuali sui minori. «L’abuso sessuale su minori è un reato ripugnante» ha riferito la ministra. «Dobbiamo lavorare tutti per garantire che ai criminali non sia consentito l’uso di dilaganti tecnologie online e le aziende IT devono fare la propria parte e assumersi la responsabilità per tenere al sicuro i nostri figli».
Ancora «Privacy e sicurezza non si escludono a vicenda – abbiamo bisogno di entrambi – e possiamo averle entrambe ed è ciò che tale emendamento garantisce». L’emendamento proposto prende di mira – tra le altre cose – anche contenuti legati al terrorismo, e in una clausola si fa esplicito riferimento a contenuti online “legati al terrorismo” o contenuti CSEA (child sexual exploitation & abuse, sfruttamento e abuso sessuale minorile).
Apple aveva predisposto lo scorso anno un sistema per la scansione delle foto caricate dagli utenti su iCloud consentendo di individuare materiale pedopornografico (CSAM, acronimo di Child Sexual Abuse Material), con l’obiettivo di riferire eventuali violazioni al National Center for Missing and Exploited Children (NCMEC), organizzazione non a scopo di lucro che si occupa – tra le altre cose – della tutela di minori scomparsi.
Il sistema previsto da Apple aveva suscitato polemiche per la possibilità di poter essere sfruttato da qualcuno per inviare file predisposti per fare scattare falsi positivi e offrendo la scusa a governi vari per predisporre controlli su tutte le tipologie di immagini possibili, strumenti di controllo da sogno per qualsiasi regime repressivo.
Un obbligo di questo tipo per Apple, rappresenta un ulteriore imposizione a come è pensato per sua natura iOS. Il Digital Markets Act – la legge europea sui mercati digitali che sarà applicata tra circa un anno – obbligherà Apple a ripensare gran parte dei meccanismi di funzionamento di iOS, con tanto di apertura obbligatoria a store di terze parti, motori di rendering per i browser di terze parti e molto altro ancora.
Ma per quanto riguarda le misure contro la pedopornografia, Apple potrebbe implementare la propria soluzione di rilevamento CSAM per essere conforme al nuovo emendamento alla legge sulla sicurezza online del Regno Unito.
