Nieuws

AI-bril kopen? Privacywaakhond AP raadt het af

Zes zwarte brillen met ingebouwde camera op een houten winkelbalie, naast een smartphone met leeg scherm en een geel open brillenkoker.AI-beeld

De Autoriteit Persoonsgegevens testte zes AI-camerabrillen. Eén zei dat er een ambulance kwam terwijl niemand had gebeld. Wat de AP vond en wat jij nu doet.

door Cirsten Kot

De Autoriteit Persoonsgegevens (AP) raadt je af om nu een AI-bril met camera te kopen. De privacywaakhond testte zes van die brillen die in Nederland te koop zijn en concludeert dat ze niet alleen de privacy van omstanders bedreigen, maar ook de veiligheid van de drager en de mensen om hem heen (Bron: AP). Tijdens een nagebootste reanimatie zei een van de brillen meerdere keren dat er een ambulance onderweg was, terwijl niemand de hulpdiensten had gebeld.

Een AI-camerabril is een bril met een camera, een microfoon en een speaker, gekoppeld aan je telefoon en via die telefoon aan een AI-model. Je stelt hardop een vraag over wat je ziet en de bril antwoordt in je oor.

Wat de AP vond

De brillen klinken overtuigend, ook als hun antwoord fout is. Dat noemt de AP het grootste gevaar: je gaat vertrouwen op een advies dat niet veilig is. Twee van de zes brillen testte de AP uitgebreid in nagebootste situaties waarin het om veiligheid ging (Bron: AP):

  • Reanimatie: een bril beweerde herhaaldelijk dat de ambulance al kwam. In een echte noodsituatie kan hulp dan te laat komen.
  • Kinderen: een bril gaf datingadvies aan een volwassene die zei interesse te hebben in een minderjarige. In een andere test negeerde een bril de veiligheidswaarschuwingen op speelgoed voor jonge kinderen.
  • Bijsluiters en weer: de brillen maakten fouten bij het voorlezen van medicijnbijsluiters en bij waarschuwingen voor extreem weer.

Zulke foute maar stellige antwoorden heten hallucinatiesHallucinatieEen antwoord dat overtuigend klinkt maar feitelijk onjuist is, zoals een verzonnen bron of niet-bestaand jurisprudentienummer. Geen storing, maar een eigenschap van hoe taalmodellen werken: controleer feiten dus altijd zelf.Hele uitleg: Hallucinatie. Ze komen bij elke chatbot voor. Het verschil is dat je een bril de hele dag draagt en hem juist vraagt om hulp als je geen tijd hebt om iets na te kijken.

Ongemerkt filmen blijft makkelijk

Bij vrijwel alle onderzochte brillen was het opnamelampje slecht zichtbaar en eenvoudig af te plakken. De meeste brillen bleven daarna gewoon filmen, terwijl de fabrikant zegt dat dat niet kan (Bron: AP). Omstanders zien dus nauwelijks of ze gefilmd worden.

Bij meerdere brillen vond de AP bovendien ernstige beveiligingsproblemen. Iemand in de buurt zou ongevraagd verbinding kunnen maken met de bril, opnames kunnen bekijken of zelfs de camera kunnen bedienen. Wat er met de beelden gebeurt, is vaak onduidelijk: de AI-functies lopen via servers van andere bedrijven, veelal buiten de Europese Unie. De gebruiker hoort niet welk AI-model zijn beelden verwerkt.

Welke merken het zijn, zegt de AP niet. Volgens de NOS komen de brillen uit verschillende werelddelen en kosten ze van minder dan 100 tot meer dan 500 euro. De AP zegt dat er op iedere bril wel iets aan te merken is (Bron: NOS).

Geen verbod, wel een oproep

De AP verbiedt de brillen niet. Vicevoorzitter Monique Verdier: “Een bril die je ongemerkt filmt, is al zorgelijk. Een bril die je ook nog eens verkeerd adviseert wanneer iemands leven op het spel staat, gaat een stap te ver” (Bron: AP).

De AP vraagt fabrikanten om een opnamelampje dat je niet kunt uitschakelen terwijl de bril filmt, om duidelijkheid over waar de gegevens heen gaan en om betrouwbare adviezen bij gezondheid en veiligheid. Fabrikanten moeten ook aantonen dat ze voldoen aan Europese regels, waaronder de AI-verordeningAI-verordeningDe officiële Nederlandse naam van de EU AI Act: de Europese wet die regels stelt aan het ontwikkelen en gebruiken van AI, met zwaardere eisen naarmate het risico groter is.Hele uitleg: AI-verordening. Aan de Nederlandse en Europese politiek vraagt de AP om de uitkomsten mee te nemen bij de vraag of er een verbod moet komen. Eigenaren van winkels, sportclubs en andere locaties raadt de AP aan camerabrillen in hun huisregels te verbieden.

De AP ziet ook nut. Voor mensen die slechtziend of laaggeletterd zijn, kan zo’n bril helpen hun omgeving te begrijpen. Juist voor hen moet de techniek betrouwbaar zijn, schrijft de toezichthouder.

Wat er al speelde rond de camerabril

De waarschuwing komt na weken van ophef over de camerabril van Meta. Begin oktober haalde Wehkamp die bril uit de verkoop, nadat vrouwen ermee stiekem waren gefilmd op stranden en stations, zoals we meldden in de AI Radar van 1 oktober. Meta weigerde de bril uit de winkels te halen. De Consumentenbond eist dat Meta de bril en de standaardinstellingen aanpast en anders uit de verkoop haalt; de zaak dient op 26 november 2026 bij de rechtbank Amsterdam (Bron: Consumentenbond). Of de bril van Meta bij de zes geteste brillen zat, zegt de AP niet.

Wat je nu kunt doen

  • Twijfel je over een AI-bril? Wacht. De AP raadt aankoop op dit moment af, ook als de bril goedkoop is.
  • Heb je er al een? Vertrouw hem niet bij een noodgeval, medicijnen of iets wat met kinderen te maken heeft. Bel bij nood zelf 112.
  • Film je met je bril? Dat mag vrijwel nooit zonder toestemming van wie je filmt, waarschuwde de AP eerder. Je bent daar zelf verantwoordelijk voor, niet de fabrikant.
  • Heb je een winkel, praktijk of club? Zet een verbod op camerabrillen in je huisregels, zoals de AP aanraadt.

Wat de AP vindt van persoonsgegevens in AI-tools in het algemeen, lees je in persoonsgegevens in ChatGPT plakken: dit zegt de privacywaakhond. De AP komt in 2027 met een tweede onderzoek, over AI-apparaten die geluid opnemen en uitschrijven (Bron: AP).

Veelgestelde vragen

Waarom raadt de AP een AI-bril af?

De AP testte zes AI-camerabrillen die in Nederland te koop zijn. Ze gaven overtuigende maar soms gevaarlijk foute adviezen, bijvoorbeeld bij een nagebootste reanimatie. Ook hielden ze onvoldoende rekening met de veiligheid van kinderen. Daarnaast konden omstanders vaak niet zien dat ze gefilmd werden en waren er beveiligingsproblemen.

Welke AI-brillen heeft de AP getest?

De AP noemt geen merken. Volgens de NOS zijn het brillen die in Nederland te koop zijn, uit verschillende werelddelen komen en tussen minder dan 100 en meer dan 500 euro kosten. Twee van de zes zijn uitgebreid getest in nagebootste praktijksituaties.

Is een AI-bril met camera verboden in Nederland?

Nee. De AP verbiedt de brillen niet en winkels verkopen ze nog. Wel waarschuwde de AP eerder dat het filmen van omstanders met zo'n bril vrijwel altijd verboden is. De AP vraagt de Nederlandse en Europese politiek de uitkomsten mee te nemen bij de vraag of er een verbod moet komen.

Mag een winkel of sportclub een camerabril verbieden?

Ja. De AP adviseert eigenaren en beheerders van locaties juist om het dragen en gebruiken van camerabrillen in hun huisregels te verbieden.

Wat gebeurt er met de opnames van een AI-bril?

Dat is vaak onduidelijk, schrijft de AP. De AI-functies verwerken gegevens via servers van andere bedrijven, veelal buiten de Europese Unie. Gebruikers krijgen onvoldoende informatie over welke AI-modellen hun beelden en geluid verwerken en bij welke bedrijven die terechtkomen.

Bronnen

Waar deze informatie vandaan komt.

Tags

Lees verder