Een filmpje met je dochter op Instagram zetten en vervolgens ontdekken dat Meta AI zelf begint uit te zoeken wie dat kind eigenlijk is.
Het overkwam de Amerikaanse Kalie Robins. Wat begon met één nogal nieuwsgierige vraag onder een doodgewone video, eindigde met een AI die informatie uit verschillende oude berichten van haar familie bij elkaar legde en foto's van haar kinderen tevoorschijn haalde. Meta geeft inmiddels toe dat zijn assistent daar iets té behulpzaam is geweest.
Kalie Robins, een Amerikaanse content creator uit Utah, had een filmpje op Instagram geplaatst waarin ze samen met een van haar dochters in de auto zat te zingen. Haar dochter was zichtbaar in beeld, maar Robins had nergens vermeld wie ze was. Dat probleem besloot Meta AI blijkbaar zelf op te lossen. Onder het filmpje verscheen automatisch de voorgestelde vraag: “Who’s the child passenger?” Oftewel: wie is dat kind naast je?
Dat is al een merkwaardige vraag om als technologiebedrijf spontaan onder een familiefilmpje te zetten, maar Robins werd nieuwsgierig en klikte erop. Meta AI begon vervolgens informatie over haar dochters naar boven te halen. Niet alleen uit berichten die Robins zelf had geplaatst, maar volgens haar ook uit oude posts van familieleden. Namen, informatie rond hun geboorte, foto's en andere persoonlijke details werden samengebracht, waarna de AI ook nog vervolgvragen voorstelde waarmee ze verder kon zoeken naar onder meer de leeftijd van haar kinderen en informatie over waar het gezin woonde.
En precies daar wordt het verhaal een stuk interessanter dan de zoveelste chatbot die een raar antwoord geeft. Geen van die losse brokjes informatie hoeft op zichzelf bijzonder geheim te zijn geweest. Een verjaardagsbericht van oma, een oude foto bij een familielid en ergens een vermelding van een woonplaats stellen afzonderlijk niet zoveel voor. Maar zodra een AI ze bij elkaar legt en er een keurig antwoord van maakt, heb je plots iets wat verdacht veel op een klein persoonsdossier begint te lijken. Vroeger moest iemand daar tenminste nog een ongezonde hoeveelheid vrije tijd voor hebben. Nu kan een chatbot het werk doen.
Robins besloot daarom verder te klikken om te zien hoever ze met de voorgestelde vragen kon komen. Het vreemdste moment volgde toen Meta AI foto's van haar kinderen begon te tonen. Daar zat volgens Robins zelfs een foto tussen die ze jaren geleden van haar eigen sociale media had verwijderd.
Dat betekent niet automatisch dat Meta stiekem in een archief met verwijderde foto's is gaan graven. Het is niet onafhankelijk vastgesteld waar de afbeelding vandaan kwam en dezelfde foto kan bijvoorbeeld ooit door iemand anders uit haar familie zijn geplaatst. Maar voor Robins maakte dat weinig verschil: ze zag vooral hoe gemakkelijk informatie die jarenlang verspreid over sociale media had gestaan opnieuw kon worden samengebracht.
Meta heeft ondertussen gereageerd en erkent dat de voorgestelde vragen bij de video niet hadden mogen verschijnen. Volgens woordvoerder Dina El-Kassaby had het systeem zulke persoonlijke zoekopdrachten niet spontaan mogen aanbieden en is het probleem dat daarvoor zorgde inmiddels aangepast.
Het bedrijf benadrukt wel dat Meta AI alleen informatie naar boven haalt waartoe de gebruiker al toegang heeft. Technisch gezien heeft de chatbot dus niet plots een geheime Meta-database met de dochters van Robins opengetrokken. Alleen is dat misschien niet helemaal de geruststelling die het bedrijf ermee hoopt te bieden. Er bestaat namelijk een behoorlijk verschil tussen informatie kunnen vinden en een computerprogramma dat uit zichzelf voorstellen doet om die informatie voor je te verzamelen.
Meta wordt steeds beter in digitale kruimels verzamelen
Dat verschil wordt nog interessanter omdat Meta AI juist steeds vaker gebruikt om verbanden te leggen tussen allerlei signalen op Facebook en Instagram. Het bedrijf probeert bijvoorbeeld met AI beter te herkennen welke accounts mogelijk van minderjarigen zijn. Daarvoor kan het onder meer kijken naar context rond verjaardagen, school en interacties. Meta gebruikt inmiddels ook visuele informatie uit foto's en video's om een algemene leeftijd te helpen inschatten. Volgens het bedrijf gaat het daarbij niet om gezichtsherkenning en probeert de technologie niet vast te stellen wie een specifieke persoon is, maar om minderjarige gebruikers beter te kunnen beschermen.
Op zichzelf is daar een uitstekend argument voor te maken. Alleen toont het verhaal van Robins tegelijkertijd hoe krachtig diezelfde fundamentele eigenschap van AI is: software hoeft niet één geheim gegeven te bezitten wanneer ze tientallen onschuldige gegevens met elkaar kan combineren.
We hebben de afgelopen vijftien jaar bovendien zelf een indrukwekkende hoeveelheid materiaal aangeleverd. Verjaardagen, kinderen, relaties, vakanties, scholen, verhuizingen, huizen en familiefoto's staan verspreid over ontelbare accounts en oude berichten. Tot voor kort zat daar nog een soort natuurlijke bescherming op: wie er iets bruikbaars van wilde maken, moest zelf door die digitale rommel ploegen. AI kan dat werk in seconden doen.
Meta zegt dat de specifieke suggesties die Robins te zien kreeg inmiddels zijn aangepakt. Daarmee is het directe probleem wellicht opgelost, maar het voorval laat een veel interessantere vraag achter dan hoeveel Facebook en Instagram eigenlijk over ons weten.
We zullen steeds vaker moeten nadenken over wat er gebeurt wanneer AI slim genoeg wordt om van alles wat we ooit afzonderlijk hebben verteld één samenhangend verhaal te maken.
En in het geval van Robins hoefde ze Meta AI niet eens te vragen wie haar kinderen waren. Meta kwam zelf met het idee.
