Meta’s slimme bril met AI en LLM gebruiken voor doxing van vreemden

De nieuwste augmented reality (AR)-bril van Meta, genaamd Orion, trok de afgelopen week veel aandacht, maar een project van twee Harvard-studenten zorgt nu voor nieuwe discussies over de Ray-Ban Smart Glasses van Meta.

De Ray-Ban Meta Smart Glasses zijn uitgerust met een high-definition (HD) camera en een geïntegreerde speaker, waardoor gebruikers kunnen genieten van een handsfree digitale ervaring. Met deze bril kunnen gebruikers naadloos bellen, naar muziek luisteren en foto’s en video’s maken of livestreamen.

Een demonstratie gemaakt door studenten AnhPhu Nguyen en Caine Ardayfio laat zien hoe de videobeelden van de bril, gecombineerd met gezichtsherkenningstechnologie, mogelijk privé-informatie van vreemden in openbare ruimtes kunnen blootleggen. Ondanks dat de onderliggende technologie al jaren beschikbaar is, roept deze demo een gevoel van ongemak op, vooral omdat veel mensen zich niet bewust waren van hoe gemakkelijk toegankelijk dergelijke technologie is voor de gemiddelde burger. Dit heeft ertoe geleid dat talloze gebruikers de technologie als dystopisch bestempelen, wat de manier weerspiegelt waarop velen het zich hadden voorgesteld. Toch is het momenteel een realiteit.

Nguyen plaatste een video op X (voorheen Twitter) waarin hij de technologie, I-XRAY genaamd, in actie laat zien.

Zijn we klaar voor een wereld waarin onze gegevens in één oogopslag zichtbaar zijn? @CaineArdayfio en ik bieden hier een antwoord om uzelf te beschermen: https://t.co/LhxModhDpk
pic.twitter.com/Oo35TxBNtD

— AnhPhu Nguyen (@AnhPhuNguyen1) 30 september 2024

Deze technologie gebruikt de camera op de bril om video live te streamen naar hun Instagram-account. Ze hebben een computerapplicatie geprogrammeerd om de stream te monitoren en AI te gebruiken om gezichten te identificeren.

Zodra een gezicht is herkend, wordt het verwerkt via gezichtsherkenningsservices zoals PimEyes, die de afbeelding overeenkomstig matchen met openbaar toegankelijke foto’s van het individu online. Deze afbeeldingen worden vervolgens geanalyseerd met behulp van grote taalmodellen (LLM’s) om informatie te extraheren, zoals de naam van de persoon, beroep en meer. Deze gegevens kunnen vervolgens worden vergeleken met openbaar beschikbare databases om telefoonnummers en zelfs gedeeltelijke Social Security Numbers te achterhalen.

Zoals eerder vermeld, is vrijwel alle technologie die in I-XRAY wordt gebruikt al jaren beschikbaar. Denk hierbij aan camera’s, gezichtsherkenningstools zoals PimEyes en databases zoals FastPeopleSearch en Cloaked.com.

Wat de verontrustende aard van deze demonstratie vergroot, is de onopvallende en directe manier waarop het werkt. De Ray-Ban Meta Glasses 2 die in de video te zien is, lijken op standaardbrillen en hoewel ze een privacy-indicator hebben voor wanneer video-opname actief is, kan het lastig zijn om het op te merken in fel verlichte buitenomgevingen. Bijgevolg kan een persoon die deze bril draagt u opnemen zonder dat u het weet.

Bovendien verergert de autonome aard van het verzamelen van informatie het ongemak. De betrokken LLM’s kunnen automatisch details zoals namen en persoonlijke informatie uit verschillende online bronnen achterhalen, zonder enige menselijke tussenkomst. De video illustreert hoe deze studenten een individu op straat doxen, waarbij ze de verzamelde informatie terloops gebruiken om vertrouwdheid te veinzen, alsof ze elkaar op een gemeenschapsfunctie hebben ontmoet.

De primaire bedoeling achter dit project is om te benadrukken hoe gemakkelijk vreemden toegang kunnen krijgen tot persoonlijke informatie in het digitale landschap van vandaag. Het studentenduo heeft ervoor gekozen om geen code openbaar te maken, maar heeft methoden gedeeld waarmee individuen hun privacy kunnen beschermen. Veel van deze databases bieden gratis services om persoonlijke informatie te verwijderen. Het blijft echter een lastige taak om uw online aanwezigheid volledig te elimineren. Met deze maatregelen kunt u proberen uw informatie iets minder toegankelijk te maken.

Bron