Meninger: Medstiftere og talenter forlader OpenAI, overser vi noget?

OpenAI er uden tvivl en af de mest forstyrrende virksomheder i tech-industrien lige nu. Dens fascinerende ChatGPT har domineret chatbot-assistentmarkedet, og dens indflydelse på individer og samfund kan ikke måles.

Virksomheden er i øjeblikket værd over $80 milliarder, og den blev grundlagt med $1 milliard i 2015. Dog har dens organisatoriske struktur i de sidste par måneder ændret sig hurtigt, næsten lige så hurtigt som dens udviklinger, nye funktioner, produkter, og modeller. Men hvorfor?

Af de 11 medgrundlæggere, der startede projektet, er der kun cirka tre tilbage. John Schulman blev den 8. medgrundlægger, der forlod, efter at han offentligt annoncerede det denne uge.

Der har været interne stridigheder, en midlertidig fyret CEO, åbne breve, tidligere medarbejdere bekymrede for sikkerheden, og whistleblowers, der siger, at firmaets fortrolighedsaftaler forbyder dem at rejse bekymringer hos tilsynsmyndighederne.

Hvad bør folk vide om skaberne af den mest avancerede teknologi i vores tid? Hvad er fakta, og hvad er konspirationsteorier?

Lad os starte fra begyndelsen.

Hvordan det hele startede: Grundlæggerne

OpenAI blev lanceret i 2015, og virksomheden delte et indlæg, “Introduktion til OpenAI“. Skaberne beskrev OpenAI som et “non-profit kunstig intelligens forskningsfirma” med et klart mål: “at gavne menneskeheden som helhed.”

I dokumentet blev Ilya Sutskever introduceret som forskningsdirektør, Greg Brockman som teknologidirektør, Altman og Elon Musk som medformænd, og de introducerede resten af grundlæggerne: Trevor Blackwell, Vicki Cheung, Andrej Karpathy, Durk Kingma, John Schulman, Pamela Vagata og Wojciech Zaremba.

“Da vores forskning er fri for økonomiske forpligtelser, kan vi bedre fokusere på en positiv menneskelig indvirkning,” skrev Sutskever og Brockman sammen med resten af holdet i det første indlæg. De klargjorde også, at en gruppe investorer – herunder Altman, Musk, Amazon Web Services (AWS), YC Research og flere – forpligtede sig til at stille 1 milliard dollars til rådighed, hvilket de forventede ville vare i mange år.

Drømmeholdet var klar, og drømmeorganisationen kunne begynde sit arbejde.

Medstiftere Forlader, CEO Sam Altman Bliver Fyret

Ikke længe efter OpenAI blev lanceret i 2016, forlod Vagata stille og roligt virksomheden for at slutte sig til Stripe. Ifølge Financial Times nævner ingeniøren ikke OpenAI i hendes LinkedIn-profil. Næste år, i 2017, sagde Cheung, Blackwell og Kaparthy også op.

Den femte grundlægger, der forlod firmaet, er Musk, i februar 2018. Han trak sig fra bestyrelsen efter uenigheder med Altman i en af de mest medieomtalte afgange i en strid, der har stået på i årevis og stadig er aktiv. Musk har anlagt flere retssager mod virksomheden – den seneste for blot få dage siden over en aftale med Microsoft. OpenAI delte endelig en offentlig forklaring for et par måneder siden, i marts, hvor det blev oplyst, at Musk ønskede at fusionere OpenAI med Tesla og fuldt ud kontrollere virksomheden.

Efter Musk forlod, fulgte forskeren og medstifter Kingma trenden og sluttede sig til Googles AI-projekt. De resterende medstiftere syntes at have en fungerende organisationsmaskineri—til trods for store opdateringer med profitformål, da det blev til en dual-profit og non-profit organisation—indtil dramaet med Sam Alman brød ud, og CEO’en midlertidigt forlod virksomheden i 2023. Noget var bestemt galt igen.

I 2023 genindtrådte Karpathy i OpenAI, men stoppede igen i februar 2024 for at skabe sit eget AI-uddannelsesprojekt—kaldet Eureka Labs og lanceret i juli. Derefter forlod Sutskever sin rolle som chefvidenskabsmand for at skabe sit eget firma, Safe Superintelligence, i maj. Og nu, for bare få dage siden, tog to andre medstiftere et skridt tilbage. Schulman, der lige har annonceret sin beslutning om at slutte sig til konkurrenten Anthropic, og to timer senere annoncerer Brockman sin orlov.

I øjeblikket er der kun Altman, datalog Zaremba og – teknisk set – Brockman. Så to og en halv ud af 11?

Altmans Drama

Ved udgangen af 2023 lærte verden den chokerende nyhed: OpenAI’s bestyrelse havde fyret Altman den 17. november. I løbet af et par dage kom der en masse spekulationer om ChatGPT’s sikkerhed. Bestyrelsen hævdede, at Altman ikke var “konsekvent ærlig i sin kommunikation med bestyrelsen” i sin offentlige forklaring på lederskabskiftet.

“Da ChatGPT blev lanceret i november 2022, blev bestyrelsen ikke informeret på forhånd,” sagde Helen Toner, tidligere bestyrelsesmedlem hos OpenAI, under et interview til The TED AI Show podcast i maj i år. “Vi hørte om ChatGPT på Twitter,” erklærede hun.

OpenAI’s non-profit bestyrelse var bekymret for Altmans vilkårlige beslutninger og store kommercielle aftaler, som Microsofts investering på 13 milliarder dollars, i hvad der startede som et mærkeligt forretningsforhold og netop officielt er blevet til en akavet konkurrence.

Den amerikanske journalist Ezra Kleins forskning og analyse for New York Times konkluderede, at bestyrelsen blot forsøgte at kontrollere den profitdrevne organisation ved at holde fast i virksomhedens oprindelige filantropiske mission. Det fungerede ikke.

Altman er højt værdsat i virksomheden og tech-sfæren, og omkring 90% af medarbejderne truede med at sige op, hvis han ikke kom tilbage – inklusive Sutskever, der oprindeligt var på bestyrelsens side – og bestyrelsen trak sig. Mange bestyrelsesmedlemmer stoppede, og Altman var tilbage i virksomheden inden for 5 dage.

Teorier og fakta

At detektere og forstå dramaet hos OpenAI er ikke en nem opgave. Mange mennesker mener, at udviklingen af nye AI teknologier er løbet løbsk hos OpenAI, og at tidligere medstiftere og medarbejdere forlader virksomheden på grund af sikkerhedsbekymringer. Reddit-grupper tror, at OpenAI allerede hemmeligt har udviklet kunstig almenintelligens modeller.

Dette er ikke bare spekulation. Tidligere og nuværende OpenAI-medarbejdere – og fra andre AI-virksomheder – underskrev en offentlig advarsel om risiciene ved teknologien i juni, fra misinformation til menneskets udslettelse.

Jan Leike, ikke en medstifter, men en nøgleforsker hos OpenAI, stoppede i maj, efter 3 års arbejde i virksomheden. “Jeg har været uenig med OpenAI’s ledelse om virksomhedens kerne prioriteter i ret lang tid, indtil vi endelig nåede et brudpunkt,” skrev Leike på X. “Gennem de sidste par år, har sikkerhedskulturen og processerne måttet vige for skinnende produkter.”

Superalignment projektet, som blev skabt i juli 2023 for at “kontrollere AI systemer, der er meget klogere end os”, blev opløst efter Sutskever forlod for at skabe tilsyneladende det samme projekt, men med autonomi. Anthropic, hvor nogle få tidligere medstiftere nu arbejder, blev også skabt af tidligere OpenAI medarbejdere, for at udvikle “de gode og etiske modeller” hvis det overhovedet er muligt.

Vi er fanget, så hvad mangler vi? Det vi sandsynligvis mangler, er accepten af, at OpenAI ikke længere er en organisation med flere ledere, men er blevet til et synonym for en meget magtfuld og indflydelsesrig mand: Altman.