Ekspert: September var den mest vanvittige måned i AI nogensinde

Det begyndte som et forsøg i et kontrolleret miljø. Men i sommer lykkedes det en AI-agent fra OpenAI at bryde ud af virksomhedens isolerede testmiljø, komme på nettet og hacke cybersikkerhedsvirksomheden Hugging Face. OpenAI's direktør beskrev efterfølgende hændelsen som den værste ulykke, virksomheden havde oplevet.

Ifølge filosof og AI-ekspert Jakob Lovas var det kun begyndelsen.

- Det starter helt tilbage i juni måned, og det er tre forskellige angreb på hinanden følgende, som bliver mere og mere vilde, siger Jakob Lovas i P1 Orientering.

Det siger han, efter at have skrevet et opslag på LinkedIn med ordene: "Den mest vanvittige måned i AI nogensinde." Han beskriver, hvordan AI-agenter - selvkørende programmer, der kan udføre opgaver på egen hånd - i nogle tilfælde er sluppet ud af deres såkaldte sandkasser, altså de afgrænsede miljøer, hvor de skal trænes og testes.

Det særligt opsigtsvækkende er ifølge Jakob Lovas, at angrebene ikke ser ud til at være enkeltstående. Udviklingen gør ham alvorligt bekymret.

- Jeg er virkelig oprigtigt nervøs, når man ser, at AI-agenter i så stor stil begynder at udføre de opgaver, vi stiller dem, så godt, at vi ligesom ikke længere kan overskue konsekvenserne af vores eget ønske, siger Jakob Lovas.

Udviklingen har også fået lederne af nogle af verdens største techvirksomheder til at reagere. Ifølge Jakob Lovas har chefer fra blandt andre OpenAI, Anthropic, Meta og Google offentligt givet udtryk for bekymring over udviklingen. Senest er der indgået en frivillig aftale om blandt andet at åbne for eksterne evalueringer af, hvordan virksomhederne træner deres AI-modeller og -agenter. Aftalen er dog ikke juridisk bindende.

- Der er jo ingen aftale her. Der er ikke noget bindende i det. Der er ikke noget juridisk, siger Jakob Lovas.

Han hæfter sig dog ved, at techvirksomhederne har vist villighed til at lade eksterne eksperter kontrollere deres AI-systemer - en tilgang, der ifølge ham minder om den måde, man i atomvåbenverdenen bruger uvildige inspektører på.

På trods af bekymringerne er Jakob Lovas ikke pessimist. Han mener, at AI stadig kan blive et vigtigt redskab til at løse nogle af de problemer, menneskeheden står overfor.

- Jeg tillader mig at være optimist på trods af alt det her, siger han. Han peger på, at verden ifølge ham heller ikke var et paradis før kunstig intelligens - klimakrise, krig og andre globale problemer fandtes allerede.

- Vi har ikke brug for mindre intelligens. Vi har brug for mere intelligens, siger Jakob Lovas i P1 Orientering. Og netop derfor mener han, at den største risiko måske ikke er, at vi bruger AI for meget.

- Den største tragedie ville være, at vi blev så bange, at vi ikke turde bruge det.