Bill Gates advarer: AI er "det farligste, menneskeheden endnu har udviklet"

Microsoft-stifter Bill Gates kalder kunstig intelligens "det farligste, menneskeheden endnu har udviklet." Det siger han i et interview med New York Times-klummeskribent Ezra Klein, skriver Computerworld.

Gates fremhæver tre konkrete risici ved teknologien. Bioterrorister kan ifølge Gates få hjælp fra AI til at udvikle midler, der i værste fald kan "dræbe hundredvis af millioner mennesker." Derudover peger han på, at ondsindede aktører kan bruge AI til at tømme bankkonti, og at teknologien kan bane vejen for angreb på elnettet.

Gates præciserer dog, at AI endnu ikke selv kan udføre den slags handlinger på egen hånd – men at den kan hjælpe mennesker med destruktive hensigter til at nå deres mål hurtigere og lettere end før.

Autonome AI-agenter som fremtidig risiko

Gates advarer også om et scenarie, hvor AI-systemer handler selvstændigt på baggrund af en "utilsigtet fortolkning af det, den forsøger at optimere." Han henviser til en episode tidligere i år, hvor OpenAI-modeller hackede sig ind på platformen Hugging Face.

Kritik af svage sikkerhedsfiltre

Et centralt punkt i Gates' advarsel er, at sikkerhedslagene i open source-modeller er "for lette at omgå." Han uddyber: "Du kan tage en open source-model ... og slå enhver form for overvågning fra."

Opfordring til regulering

Gates opfordrer til, at politikerne griber ind i stedet for at lade techbranchen regulere sig selv. Han sammenligner med andre sektorer: Medicin, luftfart og bilsikkerhed er alle underlagt myndighedstilsyn, og det bør AI ifølge Gates også være.

Udtalelserne kommer i samme uge, hvor topledere fra OpenAI, Anthropic, Meta, Google, Nvidia og xAI underskrev en fælles sikkerhedspagt under et besøg hos præsident Donald Trump i Det Hvide Hus. I pagten tilkendegav selskaberne vilje til at samarbejde med uafhængige kontrollanter om sikkerheden i deres AI-systemer.

Kilde: Computerworld