Meta lukkede AI-funktion efter tre dage: Deepfake-skandale tvinger selskabet til at handle

Det gik stærkt for Meta. Den 7. juli lancerede tech-giganten en ny AI-funktion kaldet Muse Image, der tillod brugere at generere AI-billeder af andre personer – blot ved at indtaste deres Instagram-brugernavn. Tre dage senere var funktionen skudt ned igen.

Hvad var Muse Image?

Muse Image var integreret direkte i Metas AI-platform og gav brugere mulighed for at skabe kunstneriske eller fotorealistiske billeder af rigtige mennesker uden disses samtykke. Private profiler og brugere under 18 år var i teorien udelukket, og voksne kunne aktivt fravælge funktionen.

Meta forsvarede lanceringen med, at der var implementeret "stærke kontrol- og sikkerhedsforanstaltninger". Men det var ikke nok til at dæmpe kritikken.

Eksperter og organisationer slog alarm

Teknologianalytiker Christiane Vejlø var ikke i tvivl om sin holdning: "Jeg synes, alt ved det er skrækkeligt. Jeg synes ikke, det burde være lovligt," sagde hun til DR Nyheder.

Vejlø understregede, at funktionen kunne placere mennesker i situationer, de aldrig havde givet samtykke til – og at en simpel opt-out-mulighed slet ikke er tilstrækkeligt beskyttelse.

Forbrugerrådet Tænk advarede desuden om, at Muse Image kunne bidrage til at normalisere brugen af deepfakes og AI-genererede billeder af personer uden deres vidende eller tilladelse.

Meta tog funktionen ned

Under pres fra kritikere, eksperter og formentlig regulatorer besluttede Meta at trække funktionen tilbage. Selskabet udgav en officiel udtalelse: "Vi har fået tilbagemeldinger om, at funktionen ikke ramte rigtigt, og derfor er den ikke længere tilgængelig."

Formuleringen er sigende i sin vage anerkendelse af fejlen – og mange ser episoden som endnu et eksempel på, at tech-giganter bevæger sig for hurtigt med AI-funktioner uden at tænke de etiske konsekvenser grundigt igennem.

Hvad betyder det for fremtiden?

Episoden rejser større spørgsmål om regulering af AI-genereret indhold af rigtige mennesker. I EU er AI Act på vej, men mange mener, at lovgivningen ikke bevæger sig hurtigt nok i takt med teknologiudviklingen.