Microsoft Træner Ny AI-Model Stor Nok Til at Konkurrere Med Kæmpe LLM’er

Microsoft udvikler en ny stor sprogmodel (LLM) med kodenavnet MAI-1, som har potentiale til at konkurrere med AI LLM’er udviklet af Google og OpenAI. Det er første gang, Microsoft udvikler en så stor LLM, siden de investerede milliarder af dollars i OpenAI for rettighederne til at implementere sidstnævntes teknologi i deres produktivitetssuite.

Udviklingen af MAI-1 ledes af Google DeepMind og Inflections medstifter Mustafa Suleyman, ifølge en rapport fra The Information. I marts 2024 opkøbte Microsoft flere af Inflections ansatte i en aftale på 650 millioner dollars.

Ifølge rapporten, der blev udgivet den 6. maj, vil MAI-1 have cirka 500 milliarder parametre, hvilket placerer den et sted mellem de rapporterede en billion parametre i OpenAIs GPT-4 og 70 milliarder parametre i Meta Llama 3 AI-modellen. Den forventes også at være “meget større” og dyrere end nogen af Microsofts tidligere mindre open-source AI’er (Phi-3 og WizardLM-2), da den vil kræve mere computerkraft og træningsdata.

Mens MAI-1 kan udnytte teknikker og træningsdata fra Inflection, forbliver det forskelligt fra nogen modeller eller teknologier produceret af OpenAI eller Inflection. Ifølge Microsoft-medarbejdere, der er bekendt med projektet, er MAI-1 en helt ny LLM udviklet internt af Microsoft.

Microsoft har endnu ikke annonceret det præcise formål med MAI-1, og dets præcise anvendelse vil afhænge af dets ydeevne. I mellemtiden har virksomheden allokeret en stor klynge af servere med Nvidia GPU’er og bruger store mængder data fra forskellige kilder til at forbedre modellen.

Afhængigt af dets fremskridt siger rapporterne, at virksomheden muligvis præsenterer MAI-1 på Build-udviklerkonferencen senere på måneden, men det er ikke bekræftet.