Sogenannte Smart Speaker werden häufig unbeabsichtigt aktiviert und übermitteln private Gespräche. Drei ehemalige Mitarbeiter*innen von Firmen, die für Apple und Amazon solche Aufnahmen überprüft haben, schildern, wie sie intime Momente aus dem Leben von Kund*innen mitgehört haben. In Interviews mit STRG_F, dem investigativen NDR-Rechercheformat für funk, und der Süddeutschen Zeitung (SZ) berichten sie von abgelauschten Gesprächen mit Ärzt*innen, Geschäftsbesprechungen und aufgezeichneten Streits und Sex.
Eigentlich sollen die Geräte nur Aufnahmen übermitteln, wenn sie mit speziellen Wörtern aktiviert werden – etwa mit „Ok, Google“, „Hey Siri” oder „Alexa”. Erst dann wird eine Verbindung zum Rechenzentrum hergestellt und der folgende Sprachbefehl verarbeitet. Doch eine neue Studie, die STRG_F und der SZ vorliegt, belegt, dass Smart Speaker häufig ungewollt Aufnahmen starten. Bei der aktuellen Untersuchung schalteten sich die Geräte auch bei anderen Wörtern ein. Und Hersteller lassen einen Teil der Aufnahmen von Menschen mithören, um zu prüfen, ob der Computer die Befehle richtig erkennt.
Eine Forschergruppe der Ruhr-Universität Bochum und des Bochumer Max-Planck-Instituts für Sicherheit und Privatsphäre hat insgesamt elf Smart Speaker untersucht: von Apple, Google, Amazon, Microsoft, der Telekom und den chinesischen Firmen Xiaomi, Tencent und Baidu. Die Wissenschaftler*innen beschallten die Geräte mehr als 16 Tage lang mit englischsprachigen TV-Serien, Nachrichten sowie speziellen Tondatenbanken und registrierten dabei rund 735 fehlerhafte Auslöser. Nach zusätzlichen sieben Tagen deutschsprachiger Sendungen hatten sich die Geräte rund 180 Mal aktiviert.
Dabei stellten sie signifikante Unterschiede zwischen den einzelnen Herstellern fest. Bei den englischsprachigen Tests startete Microsofts „Cortana“-Assistenzsystem am häufigsten eine Aufzeichnung, ohne ausdrücklich aktiviert worden zu sein. Bei den deutschsprachigen Systemen schalteten sich die Geräte von Amazon deutlich öfter unbeabsichtigt ein als die von Google, Apple und Telekom.
Viele Fehler waren auf ähnlich klingende Worte zurückzuführen. Als in der Sendung „Das Traumschiff“ etwa ein „Daiquiri“ bestellt wurde, fühlte sich das Apple-Gerät („Hey Siri“) angesprochen. Als es in derselben Serie um „Botswana“ ging, sprang die Microsoft-KI „Cortana“ an. Amazons Gerät reagierte auf die Tagesschau-Vorhersage, dass es „am Sonntag“ („Amazon“) gutes Wetter geben solle.
Der Hamburger Datenschutz-Beauftragte Johannes Caspar fordert, dass die Unternehmen von sich aus auf dieses Problem aufmerksam machen. „Man muss vom Hersteller erwarten, dass er die Verbraucher im datenschutzrechtlichen Sinne aufklärt und darauf hinweist, dass es eben ein entsprechendes Risiko der Privatsphäre ist“, sagte Caspar NDR und SZ. Das könne etwa über entsprechende Label oder Hinweise auf der Verpackung geschehen. Er setzt aber auch darauf, dass die Systeme mit der Zeit besser und ungewollte Aktivierungen seltener werden. „Künstliche Intelligenz lernt aus Fehlern“, so Caspar.
Google hat derzeit die manuelle Auswertung nach eigenen Angaben ausgesetzt, will aber in Zukunft wieder Menschen einsetzen, um die Sprachtechnologie zu verbessern. Die Nutzer*innen müssten sich dann aber aktiv dafür entscheiden, teilte das Unternehmen auf Anfrage mit. Grundsätzlich arbeite Google ständig daran, die Erkennungstechnologie für die Aktivierungswörter zu verbessern. Zudem könnten Nutzer*innen Aufnahmen löschen lassen, wenn sie erkennen, dass sich das Gerät unbeabsichtigt eingeschaltet hat.
Apple hat auf konkreten Fragen nicht geantwortet, sondern lediglich auf eine Stellungnahme vom August 2019 verwiesen. Darin heißt es, alle Daten von Siri würden unter einer zufälligen Kennung verarbeitet und nicht mit der Apple-ID oder der Telefonnummer verknüpft. Standardmäßig speichere das Unternehmen keine Audioaufzeichnungen mehr. Nutzer*innen könnten dem aber aktiv zustimmen, um zu „einer Verbesserung“ beizutragen. Die Aufnahmen bekämen dann „ausschließlich Apple-Mitarbeiter*innen“ zu hören, jede unbeabsichtigte Aufzeichnung solle gelöscht werden.
Amazon schrieb, die Erkennung des Aktivierungswortes und die Spracherkennung würden sich täglich verbessern und man investiere „weiterhin in die Verbesserung der entsprechenden Technologien”. Ein kleiner „Bruchteil von einem Prozent der Alexa-Anfragen” werde manuell bearbeitet. Die Aufnahmen seien dabei nicht mit Kundendaten verknüpft und nur eine begrenzte Anzahl von Mitarbeiter*innen habe Zugriff. Anders als bei Google und Apple müssen Kunden dem aber nicht aktiv zustimmen. Sie haben aber die Möglichkeit, der Nutzung der Sprachaufzeichnungen zu widersprechen, so Amazon.
Die Telekom teilte mit, dass eine Sicherheitsmaßnahme zum Schutz der Privatsphäre greife, sollten ähnlich klingende Worte zu einer versehentlichen Aktivierung führen. Die Sprachplattform überprüfe, ob wirklich das entsprechende Wort gesagt wurden. Nutzer*innen könnten auch den Verlauf der Gespräche einsehen, auf ungewollte Aufzeichnungen aufmerksam machen und diese löschen lassen. Zudem könnten sie die Mikrofone der Geräte mit einer Stumm-Taste ausschalten. Zur Sprachverbesserung würden „auf Datenschutz geschulte Mitarbeiter der Telekom“ einige Textfiles analysieren. Die Aufnahmen würden zuvor anonymisiert. Wenn ein Kunde dies nicht wolle, könne er in der App dem widersprechen.
Microsoft hat auf die Anfrage nicht geantwortet. Der Software-Konzern hat sein Spracherkennungs-System für Smart Speaker mittlerweile eingestellt. Xiaomi antwortete als einziger chinesischer Hersteller auf eine Anfrage und erklärte, dass die Geräte nicht für deutsch- oder englischsprachige Umgebungen optimiert seien. Alle der getesteten Sprachassistenten aus China werden offiziell nicht nach Europa verkauft.
STRG_F veröffentlicht dazu dieses Video: Sex, Streit, Arztgespräche: wie oft Smart Speaker heimlich mithören.
Das Format wird vom NDR für funk produziert.
Die Ergebnisse der Studie haben die Wissenschaftler*innen auf der eigenen Website veröffentlicht: https://unacceptable-privacy.github.io/
Mehr Informationen stehen auf den Formatseiten im Presseportal zu Verfügung. Bilder sind nach Akkreditierung im Downloadbereich zugänglich.
Über funk
funk ist das Content-Netzwerk von ARD und ZDF, das Online-Inhalte für 14- bis 29-Jährige bietet. Die über 70 funk-Formate aus den Bereichen Information, Orientierung und Unterhaltung sind auf Facebook, YouTube, Snapchat und Instagram sowie auf funk.net zu finden. Die Inhalte entstehen in Redaktionen von ARD und ZDF in ganz Deutschland und zusammen mit Creator*innen und Produzent*innen. funk arbeitet mit etablierten Köpfen der Webvideo-Szene zusammen, unterstützt und fördert aber auch Newcomer*innen. Die funk-Zentrale in Mainz trifft strategische Entscheidungen, entwickelt das Angebotsportfolio und optimiert zusammen mit den Partner*innen die Formate.
Weitere Informationen unter presse.funk.net.