AI

Google sta spiando le tue conversazioni?

  • Redazione
  • 11/04/2022
  • Tempo di lettura: 4 minuti

Ok, ho pensato di lasciare questo come un post di una sola parola, ma anche se posso affermare categoricamente che non sta accadendo, il fatto che questa domanda viene fuori regolarmente nella mia vita quotidiana, e che ho lavorato sull’audio always-on quando ero a Google, mi fa venire voglia di espandere un po' la questione.

Un buon punto di partenza è questo articolo della BBC del 2016 che chiede “Il tuo smartphone ti sta ascoltando?”, che include l’aneddoto comune di un annuncio che sembra essere stato innescato da una conversazione recente, un’indagine sulla possibilità tecnica che possa accadere, e smentite da Google, Facebook e Amazon che ciò che gli utenti sospettano stia effettivamente accadendo. Ho lavorato per anni sull’infrastruttura che Google utilizza per i modelli di apprendimento automatico per riconoscere i trigger vocali come “Hey Google”, quindi se vi fidate di me potete prendere la mia parola che non avevamo la capacità di fare ciò di cui la gente è preoccupata. Anche se non vi fidate di me, ci sono documenti pubblici di Google e Apple che entrano in dettaglio su come funziona il sistema always-on nei telefoni Android e iOS. Il riassunto è che per funzionare anche quando la maggior parte del telefono (compresa la CPU) è spenta, i dati del microfono devono essere elaborati da un sottosistema che è estremamente limitato, perché per evitare di scaricare la batteria può consumare solo qualcosa come dieci milliwatt. Per fare un confronto, un processore Cortex A usato per la CPU principale (o processore applicativo) può facilmente bruciare un watt o più. Per funzionare a così bassa potenza, questo sottosistema ha molta meno memoria e calcolo del processore dell’applicazione, spesso solo poche centinaia di kilobyte di RAM e funziona a una frequenza di poche centinaia di megahertz. Questo rende l’esecuzione del riconoscimento vocale completo, o anche l’ascolto di più di qualche parola chiave, impraticabile dal punto di vista ingegneristico. I team di ricerca di Google sono riusciti a fare alcuni piccoli miracoli come spremere “Now Playing” sul sottosistema always-on del Pixel, ascoltando quando la musica è in riproduzione e svegliando il processore dell’applicazione per identificarla, ma c’è voluta un’incredibile ingegnosità per inserirla nel budget di memoria disponibile. Anche se l’articolo afferma che i ricercatori di sicurezza hanno costruito un’applicazione proof of concept che non ha usato molto potere, non si collegano a nessun codice o misurazioni di potenza Dal momento che i normali sviluppatori Android non possono eseguire applicazioni sul sottosistema always-on (è limitato ai produttori di telefoni) la loro applicazione deve essere stata eseguita sul processore dell’applicazione, e sono pronto a scommettere un sacco di soldi che avreste notato la vostra batteria scaricarsi velocemente se la CPU principale fosse stata sveglia per lunghi periodi.

Quindi, sarei stato direttamente coinvolto in qualsiasi codice che facesse il tipo di spionaggio conversazionale che molte persone sospettano erroneamente stia accadendo, e sono in una buona posizione per dire categoricamente che non lo è. Ma perché dovreste fidarvi di me? O per dirla in un altro modo, come può un utente comune verificare la mia dichiarazione? L’articolo della BBC è un po' insoddisfacente, perché hanno ricercatori di sicurezza che creano una prova di concetto per un’app che ascolta le conversazioni, e poi affermano che le aziende coinvolte negano che lo stiano facendo. Anche se si ha fiducia nelle grandi aziende tecnologiche coinvolte, so per esperienza personale che i loro ingegneri possono commettere errori e perdere informazioni accidentalmente. La mia conoscenza sta anche invecchiando, la tecnologia continua a migliorare e l’esecuzione del riconoscimento vocale completo su un chip sempre attivo non sarà sempre fuori portata.

Questa lacuna, il fatto che dobbiamo fidarci della parola dei produttori di telefoni che non ci stanno spiando e che non c’è un buon modo per una terza parte di verificare questa promessa, è ciò su cui mi concentrerò nella mia ricerca. Credo che dovrebbe essere possibile costruire interfacce vocali e altri dispositivi con microfoni e telecamere in modo tale che qualcuno come Underwriters' Laboratories o Consumer Reports possa testare le loro garanzie di privacy. Ho già esplorato alcune soluzioni tecniche in passato, ma penso che sia importante raccogliere una coalizione di persone interessate alle questioni più ampie. Con questo in mente, se sei un ricercatore o un ingegnere nel mondo accademico o nell’industria che è interessato a questo settore, mandami una mail a [email protected]. Spero che possiamo organizzare una sorta di simposio e gruppi di discussione per capire le migliori pratiche. Credo che noi come scienziati informatici possiamo fare di meglio che chiedere al pubblico di fidarsi ciecamente delle aziende per fare la cosa giusta, quindi cerchiamo di capire come!

Ciao, sono Michele!

Sono molto felice di saperti qui.
Ogni giorno ti raccontiamo qualcosa di nuovo sull'AI e sulle nuove tecnologie. Seguici sui social o iscriviti alla newsletter!

Iscriviti alla newsletter!

Iscrivendoti accetti la nostra Privacy Policy

Ti va di rimanere aggiornatə?

Niente spam, niente pubblicità. Ogni tanto una mail. Tutto qui.
(Ah, ovviamente i tuoi dati non verranno mai ceduti)

Iscrivendoti accetti la nostra Privacy Policy