Con l’arrivo di Alexa nelle case tedesche, l’assistente vocale di Amazon è passato nel giro di un anno da oggetto geek a superstar digitale. Dalla TV alle riviste di consulenza, non c’è formato mediatico che non abbia ancora trattato l’altoparlante intelligente Echo di Amazon e Alexa. Ma cosa c’è veramente dietro il telaio dell’altoparlante di un Echo? In un’intervista approfondita, il «padre di Alexa» tedesco, il manager di Alexa Philipp Berger, ha risposto alle domande critiche della redazione di homeandsmart e ha rivelato quanto Alexa sia davvero una spia o un angelo. Il Country Manager di Amazon Alexa ha dovuto rispondere a domande sui temi della registrazione vocale, dell’analisi delle emozioni e del rumore di fondo, dell’hacking, dell’etica e della protezione dei dati.
Philipp Berger, Country Manager Amazon Alexa (a destra) in un’intervista con il responsabile del portale home&smart David Wulf (a sinistra) ( home&smart )
- Alexa e la protezione dei dati: registrazione dei comandi vocali
- Alexa e la protezione dei dati: interpretare i rumori ambientali e le emozioni
- Alexa e la protezione dei dati: i pericoli dell’hacking
- Alexa e la protezione dei dati: standard etici e linee guida
- Altre interviste e fatti interessanti su Alexa e la protezione dei dati
Philipp Berger, Country Manager di Amazon Alexa in un’intervista a homeandsmart
Può essere considerato il padre tedesco dell’assistente vocale intelligente Alexa: Philipp Berger, Country Manager di Amazon Alexa. Sin dal lancio sul mercato, il dottor Berger ha supervisionato e gestito lo sviluppo di Alexa in Germania dalla sua sede di Monaco. Anche se Alexa si basa su Amazon Cloud, Amazon tiene conto delle caratteristiche specifiche del Paese e dei requisiti nazionali. Gli utenti tedeschi sono particolarmente esigenti in materia di protezione dei dati e della privacy. Un motivo sufficiente per David Wulf, responsabile del portale home&smart, per visitare l’esperto tedesco di Alexa presso la sede tedesca di Amazon a Monaco e chiedergli di affrontare argomenti particolarmente delicati in un’intervista approfondita.
Contenuto
- Alexa e la protezione dei dati: registrazione dei comandi vocali
- Alexa e la protezione dei dati: interpretare i rumori ambientali e le emozioni
- Alexa e la protezione dei dati: i pericoli dell’hacking
- Alexa e la protezione dei dati: standard etici e linee guida
- Altre interviste e fatti interessanti su Alexa e la protezione dei dati
Alexa e la protezione dei dati: registrazione dei comandi vocali
Alexa salva le registrazioni nel cloud Alexa solo quando riconosce la parola di attivazione (metamorworks / Adobe Stock)
Se avete un Amazon Echo a casa, vi sarete probabilmente chiesti cosa registra Alexa, l’assistente vocale di Amazon, e se le frasi pronunciate e i rumori ambientali non possano davvero finire nelle mani sbagliate.
David Wulf: Alexa deve registrare i rumori ambientali per poter rispondere alla parola di attivazione «Alexa». È quindi permanentemente in «modalità di intercettazione». Molti utenti sono quindi turbati dal fatto che Amazon ascolti costantemente tutte le conversazioni private di casa. Tutti i contenuti delle conversazioni vengono davvero inviati ad Amazon?
Philipp Berger: Questo è un equivoco che sentiamo spesso dai nostri clienti. In realtà, occorre fare una distinzione tra il dispositivo Echo locale e il servizio Alexa Cloud. A livello locale, il dispositivo Echo cerca di riconoscere i modelli vocali che corrispondono alla parola di attivazione. Come sapete, questa può essere «Alexa», ma anche «Echo», «Amazon» o «Computer». Ogni dispositivo Echo dispone di una piccola memoria tampone che viene costantemente sovrascritta con i dati delle nuove chiamate. Nessuno di questi dati viene memorizzato sul dispositivo stesso. È importante notare che i dati vengono ricercati solo alla ricerca del modello vocale della parola di attivazione; non avviene alcun trasferimento di dati al cloud o un’analisi approfondita dei dati vocali. L’utente sa immediatamente che i dati vengono inviati al cloud. In questo senso, Alexa non ascolta sempre, ma invia i dati audio al cloud solo dopo che è stata pronunciata la parola di attivazione.
David Wulf: Sappiamo per esperienza che Alexa a volte reagisce al rumore ambientale, ad esempio quando sente dei nomi in TV. In quel momento, Alexa potrebbe ascoltare conversazioni che io, come utente, non voglio che senta. Come si può evitare che ciò accada?
Philipp Berger : Naturalmente, possono verificarsi situazioni in cui il dispositivo Echo pensa di capire la parola di attivazione in una conversazione di sottofondo, ad esempio quando qualcuno nella stanza sta parlando di una persona chiamata Alexander. Ma queste situazioni sono molto rare e stiamo lavorando costantemente per migliorare il riconoscimento della parola di attivazione per escludere tali situazioni.
David Wulf: Spesso ci si chiede cosa sappia Alexa di me. Come utente di Echo, ho accesso ai miei dati?
Philipp Berger: Siamo molto trasparenti con i nostri utenti. Tutti i comandi vocali inviati ad Alexa possono essere visualizzati immediatamente tramite l’app Alexa. Lì gli utenti hanno anche la possibilità di cancellare i dati vocali associati al loro account. Per inciso, questo vale per tutte le registrazioni vocali, anche se Alexa è stata attivata involontariamente.
David Wulf : I fornitori di servizi di comunicazione utilizzano sempre più spesso la crittografia end-to-end nella loro architettura di sistema e anche la crittografia dei dati sui loro server di comunicazione, il che garantisce il massimo livello di sicurezza. Quanto è sicura la trasmissione dei dati tra le parole pronunciate dall’utente al cloud di Amazon e all’altoparlante Echo?
Philipp Berger: I comandi vocali al servizio cloud Alexa, ad esempio «Alexa, che tempo farà?», sono sempre crittografati end-to-end e vengono archiviati in modo sicuro nel cloud. Per decifrare e analizzare la richiesta dell’utente nel cloud di Amazon, la decodifica avviene naturalmente lì. La risposta viene a sua volta trasmessa all’utente in forma crittografata end-to-end, e se gli utenti inviano messaggi o effettuano chiamate tramite Alexa, anche le connessioni tra loro sono sempre crittografate end-to-end. Ciò significa che Amazon non ha modo di visualizzare il contenuto delle chiamate effettuate tramite Alexa.
David Wulf : Come utente, ho accesso alle mie registrazioni vocali di Alexa, che sono memorizzate sui server di Amazon. Ma un dipendente di Amazon o una terza parte può teoricamente accedere alle informazioni e, ad esempio, cercare ciò che mi ha interessato nelle ultime due settimane? In che modo Amazon protegge le mie informazioni dagli interessi non autorizzati di terzi?
Dr. Philipp Berger : Utilizziamo inoltre tecniche di sicurezza e crittografia all’avanguardia sui nostri server per proteggere i dati degli utenti sia da terzi che dall’accesso dei nostri dipendenti Amazon. Trattiamo le registrazioni vocali con la massima discrezione e disponiamo delle necessarie precauzioni tecniche di sicurezza e delle relative linee guida per salvaguardarle. L’accesso alle registrazioni vocali è protetto da numerose autorizzazioni di accesso e viene concesso solo ai dipendenti che ne hanno effettivamente bisogno, ad esempio nel contesto del servizio clienti.
David Wulf: A quale scopo Amazon elabora i comandi vocali che invio ad Alexa?
Philipp Berger: I dati di Alexa vengono utilizzati in due modi. In primo luogo, naturalmente, per analizzare la domanda dell’utente e formulare una risposta. In secondo luogo, utilizziamo i dati per addestrare e migliorare i nostri algoritmi di apprendimento automatico, in modo che Alexa possa capire e rispondere ancora meglio. Tuttavia, gli utenti possono cancellare le loro registrazioni vocali in qualsiasi momento. Inoltre, nelle impostazioni di Alexa consentiamo ai nostri clienti di opporsi all’utilizzo dei dati per scopi di formazione. Dal nostro punto di vista, questo sarebbe ovviamente un peccato, perché vogliamo che Alexa migliori costantemente, ma diamo ai clienti questo controllo.
Quando i clienti eseguono determinate azioni tramite Alexa, utilizziamo queste informazioni solo nello stesso modo in cui analizzeremmo le attività degli utenti tramite il nostro sito web o l’applicazione mobile. Ad esempio, se chiedete ad Alexa di riprodurre un artista specifico su Amazon Music, riceverete consigli su altri artisti che potrebbero piacervi. Ad esempio, se chiedete ad Alexa il prezzo di un prodotto, potreste ricevere raccomandazioni per quel prodotto su Amazon.de. Tuttavia, questi dati non vengono mai condivisi al di fuori di Amazon.
David Wulf: Come sapete, Alexa può essere ampliata nella sua gamma di funzioni attraverso le cosiddette skill. Come fa Amazon a garantire che anche i fornitori di skill gestiscano i miei dati in modo responsabile?
Dr. Philipp Berger : Quando si utilizza una skill, scambiamo le informazioni pertinenti con il relativo sviluppatore della skill al fine di eseguire la richiesta dell’utente, ad esempio le risposte in un gioco di conoscenza o il contenuto delle richieste. Tuttavia, i fornitori di Alexa Skills non hanno accesso alle registrazioni vocali dell’utente.
Inoltre, richiediamo ai fornitori di terze parti che sviluppano abilità per Alexa di possedere diverse certificazioni per garantire che tutte le parti coinvolte rispettino la politica sulla privacy di Amazon.
David Wulf: Alexa viene integrata in modo nativo in un numero sempre maggiore di dispositivi, compresi quelli di produttori terzi. Amazon ritiene di condividere la responsabilità dell’uso di Alexa e come garantisce la fiducia dei consumatori in termini di protezione dei dati?
Philipp Berger: Amazon ha introdotto linee guida di certificazione molto severe per i produttori terzi di dispositivi con integrazione nativa di Alexa. Oltre alla verifica da parte di esperti e specialisti di sicurezza indipendenti, queste includono anche la capacità di effettuare aggiornamenti software sicuri.
Alexa e la protezione dei dati: interpretare i rumori ambientali e le emozioni
Alexa tiene conto delle espressioni emotive dei suoi utenti (Tatiana / Adobe Stock)
Alexa è sempre in «standby Alexa» durante il normale utilizzo. I microfoni di un altoparlante Amazon Echo sono sempre in modalità di registrazione, a meno che non vengano disattivati manualmente. Gli utenti rivelano anche informazioni sul loro stato emotivo. Dati che sarebbero molto preziosi per molte aziende.
David Wulf: Molte informazioni utili possono essere ricavate anche dal rumore di fondo, ad esempio la frequenza e la durata con cui l’utente guarda la TV o la presenza di bambini piccoli in casa. State pensando di utilizzare queste informazioni per scopi di marketing e, ad esempio, di mostrare agli utenti offerte di pannolini non appena si collegano ad Amazon su Internet?
Philipp Berger : No. Anche se i rumori di fondo vengono trasmessi ad Alexa Cloud, non li utilizziamo per scopi di marketing.
Negli Stati Uniti, tuttavia, è stata introdotta una funzione chiamata Alexa Guard. In questo caso, Alexa non solo riconosce localmente la parola di attivazione con il metodo descritto in precedenza, ma può anche avviare automaticamente misure di sicurezza in caso di rottura del vetro e quindi di sospetto di effrazione. Questa funzione deve essere attivata esplicitamente dagli utenti, in modo che sia trasparente quali eventi portano all’attivazione di Alexa.
David Wulf: una delle principali applicazioni degli smart speaker è lo streaming musicale. In base ai brani recuperati, è possibile trarre conclusioni sullo stato emotivo dell’utente, ad esempio se è triste. Gli utenti di Echo possono già chiedere ad Alexa di riprodurre musica triste o felice. Quali sono le aree di applicazione che vedete per l’uso delle informazioni emotive in relazione ai nuovi servizi? In futuro Alexa mi suggerirà una cioccolateria se ascolto canzoni tristi o mi segnalerà un terapeuta se mostro segni di depressione?
Philipp Berger: Non utilizziamo le testimonianze dei clienti per consigliare prodotti in base al loro stato emotivo attuale. Tuttavia, è importante per noi che Alexa fornisca ai nostri clienti le risposte più empatiche e sicure quando vengono poste domande delicate. A tal fine, abbiamo diversi team che si assicurano attentamente che Alexa fornisca consigli utili e amichevoli su un’ampia gamma di argomenti. In realtà, però, molti utenti esprimono i loro sentimenti direttamente ad Alexa: «Alexa, sono triste», «Alexa, ti amo» — l’anno scorso Alexa ha ricevuto milioni di proposte di matrimonio. Inoltre, non ci aspettavamo che gli utenti personalizzassero Alexa così spesso, proprio come molte persone fanno già con i prodotti tecnologici o le automobili. Prendiamo molto sul serio le espressioni emotive molto tristi e depresse e collaboriamo con i team di intervento in caso di crisi, i consulenti e gli avvocati per capire come rispondere al meglio a tali commenti. Ad esempio, Alexa informa gli utenti sulla possibilità di chiamare un servizio di consulenza in caso di dichiarazioni suicide. Il nostro obiettivo principale è aiutare l’utente e non offrirgli alcun servizio.
Alexa e la protezione dei dati: i pericoli dell’hacking
Amazon non utilizza il riconoscimento vocale per determinare l’identità degli utenti (vege / Adobe Stock)
Alexa e gli altoparlanti Amazon Echo sono la porta d’accesso alla casa intelligente per molti utenti. Alexa diventa così un apriporta. Se un hacker riesce ad accedere al sistema, potrebbe teoricamente ottenere l’accesso all’appartamento o alla casa intelligente. Un altro scenario da hacker potrebbe essere quello dei comandi vocali nascosti nei video o nella musica, ad esempio.
David Wulf: Se in futuro Alexa controllerà anche aree sensibili come le serrature delle porte di casa o dell’appartamento, non tutti dovranno essere in grado di accedere al mio appartamento con un comando Alexa. Come si farà a garantire che solo io, in quanto utente, abbia il controllo su queste aree sensibili?
Philipp Berger: Per questo motivo, inizialmente abbiamo implementato una funzione che consentiva agli utenti solo di bloccare le serrature delle porte con Alexa. Recentemente è stato possibile aprire le porte con un comando vocale, ma solo utilizzando un PIN vocale. In ultima analisi, tuttavia, spetta all’utente decidere quanto siano importanti per la sicurezza determinate porte e se il controllo di Alexa abbia senso in quel caso.
David Wulf: È possibile che Alexa riconosca l’utente dalla sua voce e gli permetta di aprire la porta d’ingresso solo con un comando vocale?
Philipp Berger : No. Utilizziamo il riconoscimento vocale per migliorare l’esperienza d’uso dei nostri clienti, ma non per determinare l’identità degli utenti o per aprire la porta d’ingresso se necessario.
David Wulf: Quanto è sicuro il riconoscimento vocale?
Philipp Berger: Utilizziamo il riconoscimento vocale per migliorare l’esperienza d’uso dei nostri clienti, ma non viene utilizzato per determinare l’identità degli utenti.
David Wulf : Si teme che gli hacker possano manipolare un Amazon Echo, ad esempio utilizzando false abilità Alexa o virus Alexa. Terze parti non autorizzate potrebbero quindi accedere ai miei dati personali o eventualmente al mio conto bancario, ad esempio. Come affronta Amazon queste minacce?
Philipp Berger: Nell’ambito del processo di certificazione delle skill, effettuiamo anche controlli di sicurezza e abbiamo predisposto misure di mitigazione del rischio che rilevano l’uso improprio delle skill e le rifiutano o le rimuovono dal programma. Purtroppo non posso fornirle informazioni dettagliate sulle misure adottate, ma i nostri clienti possono verificare in qualsiasi momento quali skill hanno attivato nella loro app Alexa (alla voce «Le tue skill»). In alternativa, è possibile trovare una panoramica qui: https://www.amazon.com/gp/skills/your-skills.Wir Abbiamo già parlato del fatto che l’elaborazione dei dati tra Echo e Amazon Cloud è crittografata. Inoltre, le skill non ricevono dati vocali diretti dagli utenti; Alexa trasmette solo le chiamate alle funzioni interpretate e quelle richieste. Inoltre, non è possibile installare skill al di fuori dell’Amazon Skill Store.
David Wulf: Alcune abilità di Alexa richiedono agli utenti dati aggiuntivi per funzionare; ad esempio, le date di raccolta dell’utente per l’abilità calendario della raccolta dei rifiuti. In futuro, potrebbero sicuramente essere anche dati bancari o simili. In che misura Amazon controlla le abilità Alexa offerte tramite lo Skill Store per quanto riguarda l’uso dei dati degli utenti? Come utente, dove posso vedere come una skill utilizza i dati personali?
Philipp Berger: Il sito web delle impostazioni sulla privacy di Alexa offre ai clienti una pagina centrale di riepilogo in cui è possibile controllare e impostare le autorizzazioni per le skill.
David Wulf : I messaggi audio nascosti rappresentano un’altra minaccia. Ad esempio, gli hacker potrebbero inserire comandi vocali nei video musicali di YouTube che non sono udibili dall’utente. Ci sono idee specifiche su come proteggere gli utenti?
Philipp Berger : Naturalmente stiamo monitorando questi casi molto da vicino, ma va detto che sono molto teorici. Questo perché per riprodurre questi video con messaggi vocali nascosti sono necessari altoparlanti molto speciali, che devono essere posizionati nelle immediate vicinanze di un altoparlante Echo. Il rischio effettivo rappresentato da questi scenari è quindi molto basso. Tuttavia, nella maggior parte dei casi, anche l’utente si trova nelle vicinanze e si accorge che Alexa sta rispondendo. Questo ci permette di intervenire rapidamente. Come accennato in precedenza, tuttavia, siamo costantemente impegnati a migliorare il riconoscimento dell’utente.
Alexa e la protezione dei dati: standard etici e linee guida
Alexa rispetta le leggi sulla protezione dei dati quando condivide le informazioni (Andreas P / Amazon)
Per molte persone, Alexa è più di un semplice programma software; vedono Alexa come una confidente con cui condividere segreti, preoccupazioni e necessità. Ciò rappresenta una grande sfida etica per Amazon se la sua intelligenza artificiale viene a conoscenza di reati penali o di problemi di salute mentale dei suoi utenti, ad esempio.
David Wulf: Come si comporta Amazon in situazioni limite, ad esempio quando un utente comunica ad Alexa un progetto di reato? Esistono linee guida etiche su come procedere in queste situazioni, ad esempio per quanto riguarda la divulgazione di tali informazioni, oppure Alexa viene istruita a non ascoltare?
Philipp Berger: Ai dati dell’utente condivisi con Alexa si applicano le leggi sulla protezione dei dati; non c’è quindi uno scambio automatico di dati con le autorità competenti.
David Wulf : Negli Stati Uniti è balzato agli onori della cronaca un caso di omicidio in cui le registrazioni di Alexa sono state utilizzate come prova. Amazon ha soddisfatto questa richiesta solo dopo che il querelante e l’imputato avevano dato il loro consenso. In Germania ci sono già richieste da parte delle autorità statali che vogliono accedere alle registrazioni di Alexa e come si procede in un caso del genere?
Philipp Berger: Non sono ancora a conoscenza di casi di questo tipo in Germania. Tuttavia, è chiaro che reagiremmo di conseguenza nel caso di un ordine del tribunale. Tuttavia, la situazione giuridica tedesca tutela gli interessi dell’utente a causa dell’alto valore della protezione dei dati, per cui ciò potrebbe avvenire senza il consenso dell’utente solo se ordinato da un tribunale.
David Wulf: Grazie per l’intervista.
Altre interviste e fatti interessanti su Alexa e la protezione dei dati
I link contrassegnati con * sono i cosiddetti link di affiliazione. Se viene effettuato un acquisto tramite tale link, riceveremo una commissione. Non ci sono costi aggiuntivi per voi.
