Recall, la funzione in arrivo per Windows 11 che sfrutta l’Intelligenza Artificiale e che cattura costantemente screenshot delle attività eseguite davanti al computer, potrebbe essere un disastro dal punto di vista della sicurezza.
Lo afferma un ricercatore specializzato in sicurezza ed ex dipendente di Microsoft, spiegando che Recall sfrutta modelli AI per catturare snapshot di tutto quello che viene fatto davanti al PC, permettendo all’utente di cercare e ritrovare quello che vuole, interpretando dati e informazioni presenti negli snapshot.
Una timeline navigabile permette di scorrere avanti e indietro le varie attività; secondo Microsoft la funzione è pensata per funzionare in locale, tenendo conto della privacy, e i dati non sono sfruttati per addestrare modelli AI.
Nonostante quello che promette Microsoft, spiegando che Recall è sicura e cifra i dati, l’esperto di cybersicurezza Kevin Beaumont ha scoperto che le funzioni AI non sono esenti da falle di sicurezza potenzialmente molto gravi.
Beaumont ha testato Recall nelle scorse settimane, scoprendo che la funzionalità memorizza i dati in un database in chiaro, elemento che potrebbe rendere banale per un attacker sfruttare un malware per accedere all’archivio della funziona e ai suoi contenuti.
Lo riferisce The Verge sottolineando le parole del ricercatore: “Ogni pochi secondi sono catturati degli screenshot. A questi è automaticamente applicato l’OCR (riconoscimento ottico dei caratteri, ndr) con l’AI di Azure, […] scrivendo i dati in un database SQLite nella cartella utente”. E ancora: “Il file del database registra tutto ciò che viene visto sul PC in testo in chiaro”.
Beaumont in un post su X ha pubblicato un esempio di testo in chiaro estratto dal database della funzione Recall, strigliando Microsoft per avere indicato agli organi di informazione che un hacker non può esfiltrare da remoto dati sull’attività dell’utente. Il database della funzione Recall, come accennato, sfrutta un archivio locale (sul PC), memorizzato nella cartella AppData, teoricamente accessibile solo dall’utente amministratore, ma Beaumont afferma che l’accesso a questa cartella è possibile anche da utenti senza privilegi amministrativi locali.
Malware potrebbero essere in grado di esfiltrare i dati presenti nell’archivio di Recall (un enorme database che può arrivare a 20 GB per le attività di tre mesi) e recuperare credenziali e altre informazioni di rilievo utili per attività criminali.
Microsoft told media outlets a hacker cannot exfiltrate Copilot+ Recall activity remotely.
Reality: how do you think hackers will exfiltrate this plain text database of everything the user has ever viewed on their PC? Very easily, I have it automated.
HT detective pic.twitter.com/Njv2C9myxQ
— Kevin Beaumont (@GossiTheDog) May 30, 2024
Microsoft intende rendere attiva per default questa funzione sui nuovi Copilot+ PC e non sembra avere previsto la possibilità di disattivarla in modo semplice nella fase di setup (le schermate che guidano alla prima l’impostazione del computer).
Nei giorni passati altri ricercatori hanno messo in forte dubbio la sicurezza della funzione. In una FAQ presente sul sito Microsoft dedicata alla nuova funzione, si afferma che Recall permette di limitare la tipologia di snapshot raccolti; è possibile selezionare determinate app o determinati siti Web visitati in un browser supportato per filtrare gli snapshot e si spiega espressamente che non esegue moderazione dei contenuti: “Non verranno nascoste informazioni come password o numeri di conti finanziari. Tali dati potrebbero essere presenti negli snapshot archiviati sul dispositivo, specialmente quando i siti non seguono i protocolli Internet standard, ad esempio l’immissione occultata delle password”.
Pochi giorni addietro è stata dimostrata la possibilità di attivare Recall anche su PC ufficialmente non supportati.
