Berlin. Ein Mann legt seine Brille auf den Nachttisch und verlässt den Raum. Kurz darauf betritt seine Frau das Schlafzimmer und zieht sich aus. Eine intime Handlung, die im Normalfall nur die Frau selbst und gegebenenfalls ihr Partner sehen würde. In diesem Fall allerdings schauen auch Mitarbeiterinnen und Mitarbeiter zu, die für den Meta-Konzern von Mark Zuckerberg im Einsatz sind.

Was sich liest wie ein schlechter Sci-Fi-Film, soll sich laut schwedischen Medien exakt so zugetragen haben. „Svenska Dagbladet“ und „Göteborgs-Posten“ haben mit rund 30 Beschäftigten eines Subunternehmens in Kenia gesprochen, das für den Meta-Konzern KI-Anwendungen prüft. Sie alle bekamen demnach intimste Einblicke in das Privatleben von Menschen, die die Meta AI Glasses besitzen – eine trendige KI-Brille, die sich immer größerer Beliebtheit erfreut.

Das Gerät, in dem eine Kamera und Mikrofone integriert sind, scheint – völlig unbemerkt von seinen Nutzern – Aufnahmen zur Prüfung an den Konzern weiterzuleiten. „In einigen Videos sieht man jemanden auf die Toilette gehen oder sich ausziehen“, berichtet einer der Mitarbeiter. Andere beschreiben Videos, in denen Bankkarten von Personen zu sehen sind, und Menschen, die mit der Brille Pornos schauen. „Wir sehen alles – vom Wohnzimmer bis hin zu nackten Körpern. Meta hat solche Inhalte in seinen Datenbanken“, berichtet einer.

Hintergrund der Datenweitergabe ist eine Praxis, die bei modernen KI-Systemen nicht ganz unüblich ist. Tech-Konzerne beschäftigen sogenannte Datenannotatoren, häufig in Niedriglohnländern über Subunternehmen. Ihre Aufgabe: Sie sorgen dafür, dass die KI durch Training verbessert wird. Dafür werden Eingaben automatisiert an sie weitergeleitet. Im Falle der Meta-Brille beschriften und kategorisieren sie Bild- und Videomaterial, benennen Objekte und beschreiben sie, damit die KI lernt, die Welt zu verstehen. Laut der Berichte handelt es sich um das Unternehmen Sama in Nairobi. Auch das ChatGPT-Unternehmen OpenAI soll mit der Firma zusammenarbeiten.

Dass die Datenannotatoren im Zweifel auch private Aufnahmen zu Gesicht bekommen, ist bei der Meta-Brille offenbar ab Werk so vorgesehen. In den Nutzungsbedingungen des Konzerns heißt es: „In einigen Fällen überprüft Meta Ihre Interaktionen mit KI, einschließlich des Inhalts Ihrer Gespräche mit oder Nachrichten an KI, und diese Überprüfung kann automatisiert oder manuell (durch Menschen) erfolgen.“ Groß auf der Verpackung steht das aber nicht – selbst Händler in Brillengeschäften sollen Kunden nicht angemessen darüber informieren. Und: Abschalten lässt sich die Funktion auch nicht.

Bei dem Verfahren soll es im Normalfall zwei Einschränkungen geben: Aufnahmen sollen nur anonymisiert weitergeleitet werden, also: Gesichter und sensible Daten werden verpixelt, bevor sie bei den Mitarbeitern landen. Die Insider berichten jedoch, dass die Technik oft nicht zuverlässig funktioniere. Darüber hinaus soll die Brille Aufnahmen nicht kontinuierlich weiterleiten. Dem Bericht zufolge muss der Nutzer explizit mit der KI interagieren – also per Tastendruck oder Sprachbefehl „Hey Meta“. Wie es unter diesen Voraussetzungen zu den Nachttischaufnahmen kommen konnte, ist unklar. Eine Anfrage des RedaktionsNetzwerks Deutschland (RND) zum Thema ließ Meta unbeantwortet.

Bei Datenschützerinnen und Datenschützern lösen die Entwicklungen Besorgnis aus: Kleanthi Sardeli von der Organisation „None of your Business“ sieht bei Meta ein klares Transparenzproblem. Sie betont, dass eine ausdrückliche Zustimmung erforderlich sein sollte, wenn Daten zum Training von KI verwendet würden.

Petra Wierup, Juristin bei der schwedischen Datenschutzbehörde (IMY), sieht auch einen Konflikt mit der Datenschutzgrundverordnung (DSGVO) – immerhin würden hier Daten von EU-Bürgerinnen und -Bürgern an Unternehmen in Drittländern weitergegeben. Meta müsse sicherstellen, dass die Daten bei einem solchen Verfahren einen ähnlich „starken und gleichwertigen Schutz“ erhielten wie in der EU.

Meta selbst kommentierte die Kritik auch gegenüber den schwedischen Medien nicht. Eine Sprecherin erklärte lediglich: „Wenn Live-KI verwendet wird, verarbeiten wir diese Medien gemäß den Nutzungsbedingungen und der Datenschutzrichtlinie von Meta AI“.

Dass intelligente Brillen Datenschutzprobleme hervorrufen können, ist keine ganz neue Erkenntnis. Schon 2013, als der Konzern Google erstmals seine erfolglose Brille Google Glasses auf den Markt brachte, gaben Kritikerinnen und Kritiker zu Bedenken, dass das Gerät unbemerkt Fotos und Videos aufnehmen könnte. Das führte in den USA sogar zu teilweisen Verboten der Brille in Cafés, Kinos und in Arztpraxen.

Das Image färbte schnell auf Nutzerinnen und Nutzer des Gerätes ab. Es etablierte sich der Begriff „Glasshole“ – ein Kofferwort aus „Brille“ und „Arschloch“: Ein Autor des Magazins „Wired“ berichtete seinerzeit, das Tragen der Brille habe ihn sozial isoliert – er sei ständig mit der „aggressivsten Form passiver Aggression“ konfrontiert gewesen. Andere Artikel dokumentierten Handgreiflichkeiten gegen Glasses-Besitzer in Cafés und Bars.

Google selbst sah sich schließlich gezwungen, Verhaltensregeln für die Brille zu veröffentlichen. Darin wird explizit davor gewarnt, „gruselig oder unhöflich“ zu sein – ein klares Eingeständnis des Imageproblems.

Meta allerdings hat mit seiner Brille nun geschafft, was der Konkurrenz damals nicht gelang: Die Meta Glasses, die in Kooperation mit dem Brillenhersteller EssilorLuxottica entworfen wurden, sind zumindest in den USA längst ein beliebtes Lifestyle-Accessoire. Zuletzt konnte der Konzern den Absatz des Gadgets deutlich steigern: Mehr als sieben Millionen Ray-Ban- und Oakley-Brillen mit KI-Funktionen wurden im vergangenen Jahr verkauft.

Der Hype um das Gerät bewog den Konzern auch dazu, den internationalen Marktstart eines neuen Ray-Ban-Modells vorerst zu verschieben – zu hoch sei die Nachfrage in den USA gewesen. Berichten zufolge planen beide Unternehmen, die Produktion der Brillen bis Ende dieses Jahres auf mindestens 20 Millionen zu verdoppeln.

Der Erfolg inspiriert auch die Konkurrenz: Google hatte zuletzt ebenfalls angekündigt, wieder in den Brillenmarkt einzusteigen – auch Apple soll Insiderberichten zufolge an einem Modell arbeiten, das womöglich schon Ende des Jahres vorgestellt wird.

Doch parallel zum Trend mehren sich die negativen Schlagzeilen zum Gerät. CNN berichtet über Pick-up-Influencer, die mit der Meta-Brille filmen, wie sie Frauen ansprechen – natürlich ohne diese um Erlaubnis gefragt zu haben. Bei den teils brutalen Razzien gegen Einwanderer in den USA sollen auch Beamte der US-Einwanderungs- und Zollbehörde (ICE) KI-Brillen von Meta getragen und damit Videoaufnahmen gemacht haben.

Langfristig könnte die Brille noch für andere Zwecke eingesetzt werden. Wie die „New York Times“ berichtet, plant Meta die Einführung einer Gesichtserkennungsfunktion. Das intern als „Name Tag“ bezeichnete Feature soll es Trägern der Smartglasses ermöglichen, Personen zu identifizieren und mithilfe des KI-Assistenten Informationen über diese Personen abzurufen. Die Zeitung beruft sich auf Insider aus dem Unternehmen.

Kritikerinnen und Kritiker befürchten, dass es nicht lange dauern dürfte, bis die Funktion missbraucht wird. Die ICE-Behörde in den USA arbeitet schon jetzt mit zahlreichen Daten-Analysewerkzeugen, um Personen aufzuspüren. Meta-Chef Mark Zuckerberg hatte sich zuletzt immer wieder der Trump-Regierung angebiedert – und sein Konzern legt auch sonst wenig Wert auf Moral, wie „The Verge“ es formuliert. Brisant ist ein internes Memo, aus dem die „New York Times“ zitiert. Demnach will der Konzern die Gesichtserkennungsfunktion explizit in einer „politisch unruhigen Phase“ einführen, weil dann zivilgesellschaftliche Gruppen und Kritiker mit etwas anderem beschäftigt seien und sich weniger auf Meta konzentrieren könnten.

Doch es formiert sich allmählich Widerstand gegen den KI-Brillentrend. In Kalifornien und New Jersey gibt es Sammelklagen gegen Meta, die sich direkt auf die Enthüllungen der schwedischen Zeitungen beziehen. Die Kläger fordern Schadensersatz und eine einstweilige Verfügung, weil sie sich durch die Versprechen des Konzerns in Bezug auf den Datenschutz getäuscht sehen. Das Electronic Privacy Information Center (EPIC) hat eine Beschwerde bei der US-Handelsbehörde FTC eingereicht, mit dem Ziel, die geplante Einführung einer Gesichtserkennungsfunktion zu stoppen.

Der Soziologe und Entwickler Yves Jeanrenaud hat derweil eine App namens Nearby Glasses entwickelt. Der Clou: Sie kann anhand bestimmter Bluetooth-Signale erkennen, ob Menschen in der Nähe eine intelligente Brille von Ray-Ban, Oakley und Snap tragen – und warnt dann davor.

Jeanrenaud erklärt auf der Plattform Github, dass die App nicht perfekt sei und Fehlalarme möglich seien. Doch sie könnte ein Anfang sein für all diejenigen, die nicht unbemerkt von smarten Brillen gefilmt werden wollen. „Wir brauchen bessere Lösungen, um Überwachungstechnologien und Eingriffe in die Privatsphäre einzudämmen“, schreibt der Entwickler auf der Plattform. Aktuell ist die App für Android-Geräte im Google-Play-Store verfügbar – eine iOS-App gibt es noch nicht.