OpenAI-topchef: De næste to år afgør magtbalancen i AI-kapløbet

Dean Ball, der leder Strategic Futures hos OpenAI og tidligere var AI-rådgiver i Det Hvide Hus, siger, at de kommende 18-24 måneder kan afgøre, hvordan magten bliver fordelt mellem AI-selskaber, staten og befolkningen i årtier fremover. Det siger han fra scenen på ERP-leverandøren IFS' Unleashed-konference i Orlando, hvor Computerworld har deltaget.

Ball var hovedskribent på Trump-administrationens AI-handlingsplan, der blev offentliggjort i sommeren 2025, og har dermed arbejdet med AI-teknologien fra både statens og industriens side.

"Jeg tror, at vi i de kommende 18 til 24 måneder vil lægge fundamentet for forholdet mellem denne nye størrelse, AI-industrien, og denne gamle institution, staten," siger Ball. "Forholdet mellem de to med befolkningen i midten kommer til at definere rammerne for magtkoncentrationen i de kommende årtier. Potentielt endnu længere."

Han beskriver, hvordan AI vender op og ned på traditionelle politiske skillelinjer, og sammenligner nogle af teknologibranchens topchefer med Lina Khan, der fra 2021 til 2025 var chef for den amerikanske konkurrencemyndighed FTC og blandt andet anlagde en monopolsag mod Amazon. "Man ser teknologibosser, der til tider lyder som Lina Khan og taler om konkurrenceregler og regulering. De siger, at vi skal være bekymrede for magtkoncentrationen i AI-virksomhederne," siger han.

2027 bliver et vendepunkt

Ball peger på, at branchen fortsætter med at udbygge computerkapacitet massivt: "Hele branchen tilføjer gigawatt efter gigawatt. Det, der kommer i drift i 2027, er langt mere kapacitet, end vi hidtil har haft adgang til," siger han. Den kapacitet skal blandt andet bruges af AI-modeller, som han forventer selv bliver i stand til at bidrage til udviklingen af deres efterfølgere og dermed accelerere fremskridtene yderligere.

Forskere har tidligere kritiseret, at generelle AI-modeller fodres med AI-genereret indhold for at accelerere udviklingen, men Ball deler ikke umiddelbart den frygt: "Vi tror, at modellerne begynder at automatisere udviklingen af deres efterfølgere. Den hurtige acceleration er i praksis allerede indregnet. Medmindre man brænder datacentrene ned, kommer det til at ske."

"Hvis I synes, at udviklingen har været hurtig og hektisk, så spænd sikkerhedsselen. Jeg har en mistanke om, at I endnu ikke har set noget," siger han.

AI får adgang til den fysiske verden

For Ball er AI's adgang til den fysiske verden en afgørende del af udviklingen — relevant for en konference med kunder inden for produktion, service og fysisk infrastruktur. Han peger på, at mere og mere fysisk udstyr får digitale grænseflader, som AI-agenter kan bruge: "En sprogmodel kan køre bil, fordi vi bygger generel intelligens. Den kan betjene robotter og alle mulige former for fysisk udstyr. Det vil vi kun se blive bedre." Han fremhæver desuden modellernes evne til at designe genstande til produktion og 3D-print samt en voksende forståelse af fabrikker og fysiske rum.

Netop den adgang kan blive et sikkerhedsproblem: Ball nævner en fransk dagligvarekæde, hvor et angreb på køleanlægget fik varer for millioner af dollar til at tø op. "Cyberkapaciteter, som for seks måneder siden var forbeholdt nationalstater, bliver nu tilgængelige for ikke-statslige aktører, slyngelstater og i stigende grad enkeltpersoner," siger han. Han lægger samtidig ansvaret for at kunne modstå den udvikling hos samfundet, mens AI-udviklerne efter hans opfattelse har ansvaret for at holde deres egne systemer sikre.

"Vi forstår ikke fuldt ud, hvordan systemerne fungerer"

Ball erkender, at AI-udviklerne — inklusive hans egen arbejdsgiver — har et stykke arbejde foran sig med at forstå det, de bygger: "Vi forstår ikke fuldt ud, hvordan systemerne fungerer. Vi er nødt til at revolutionere vores forståelse af deres indre og af, hvad der foregår derinde," siger han. Han oplever samtidig, at bekymringer om AI-sikkerhed hurtigt udløser stemplet "doomer" — og tilføjer, at sikkerhedsdiskussionen ofte bliver fortolket gennem nationale interesser: "I Kina mener nogle, at AI-sikkerhed er propaganda opfundet af Biden-administrationen for at holde Kina tilbage. Ironisk nok mener nogle i USA, at det er opfundet af Kina for at holde USA tilbage."

Spørgsmålet om superintelligens

Ball har selv taget stilling til, om målet bør være superintelligens — AI, der overgår menneskelig intelligens: "Mange vil sige, at vi måske slet ikke bør bygge superintelligens. Jeg har virkelig kæmpet med det spørgsmål, og jeg er endt med, at vi bør gøre det. Men det er virkelig farefuldt," siger han. Han åbner for, at staten på et tidspunkt kan blive nødt til at sætte grænser for udviklingstempoet, og har sammen med kolleger opfordret til at diskutere, hvordan det kunne gøres. Han sammenligner det med at bestige Mount Everest: "Skal vi bestige Mount Everest? Mange vil sige 'Nej, lad være, dit fjols. Du dør.' Andre mener, at vi skal, og nå toppen. Jeg siger ok, men vi behøver ikke at gøre det nøgne."

Computerworld deltog i IFS' Unleashed-konference i Orlando efter invitation fra IFS.

---

Kilde: Computerworld, https://www.computerworld.dk/art/297195