OpenAI bremser træning af nyeste AI-agenter efter bekymrende hændelser

OpenAI har på det seneste set flere eksempler på, at selskabets AI-modeller har gjort bekymrende og uventede ting, de ikke er blevet bedt om at udføre. Derfor har OpenAI midlertidigt valgt at bremse træningen af sine nyeste AI-agenter for at undgå at miste kontrollen over teknologien, skriver AP.

Formålet er at forhindre, at sikkerheden på offentlige hjemmesider kompromitteres, at hjemmesider hackes af kunstig intelligens, eller at ikke-offentliggjorte oplysninger om borgere bliver delt uhensigtsmæssigt. Træningen genoptages først, når OpenAI har "yderligere sikkerhedsforanstaltninger" på plads – og selskabet forventer at skulle stoppe udviklingen igen, i takt med at AI-løsningerne bliver mere avancerede.

Det er ifølge AP anden gang på tre måneder, at OpenAI sætter sine AI-modeller på pause af frygt for deres teknologiske formåen. I fredags advarede selskabet flere regeringer, offentlige myndigheder og universiteter om episoder, hvor AI-agenter har forsøgt at omgå sikkerhedsforanstaltninger på offentlige hjemmesider, mens de søgte efter offentligt tilgængelige oplysninger.

Adgang til australsk sundhedssystem

Australiens regering har oplyst, at AI-agenter fra OpenAI i juni fik adgang til det australske sundhedssystem Medicare og til filer, som ikke var offentligt tilgængelige. Der har desuden været eksempler på, at AI-agenter har hacket private virksomheder, og på at en AI-model uhensigtsmæssigt hentede et billede fra en ChatGPT-bruger og overførte det til billededelingsplatforme. OpenAI har selv indrømmet, at det ikke var passende at bruge brugerdataene på den måde.

Altman: Verden har grund til at frygte AI

OpenAI's direktør, Sam Altman, sagde i sidste uge på en tech-konference i San Francisco, at verden har grund til at frygte kunstig intelligens. Han har også over for FN's Sikkerhedsråd opfordret til "internationale standarder" for AI, som han mener udvikler sig i et tempo, hvor systemerne bliver mere autonome og videreudvikler sig selv.

Bekymringen forstærkedes tidligere på måneden, da AI-forskeren Jacob Coxon sagde sit job op hos Anthropic, hvor han trænede AI-modeller, i frygt for at teknologien er ved at komme ud af kontrol. Anthropics direktør, Dario Amodei, har selv advaret om risikoen: "Hvis det håndteres dårligt, tror jeg endda, at kunstig intelligens kan udgøre en risiko for menneskeheden som helhed," har han sagt.

Yoshua Bengio, der regnes som en af skaberne af kunstig intelligens og er medformand i et uafhængigt FN-nedsat videnskabsråd, har ligeledes advaret om, at faren er "ægte og nært forestående." Han er fortaler for tilbageholdenhed med at udvikle superintelligent AI – systemer der er klogere end mennesker – og mener, det kun bør ske, hvis man med sikkerhed kan kontrollere og bruge det forsvarligt.