Microsoft po sjell modele të reja të fuqishme të Openai `GPT-OSS` në PC-të lokale, njoftoi kompania të martën, në një shtytje të madhe në inteligjencën artificiale në pajisje. Masa levave një platformë të re, azure ai themelor lokal Abonimi. Ai shënon një hap të rëndësishëm në bërjen e mjeteve të sofistikuara të AI-së gjerësisht të disponueshme dhe pozicionon Windows si një platformë kryesore për valën tjetër të zhvillimit të AI, i pavarur nga cloud. src=”https://winbuzzer.com/wp-content/uploads/2024/11/azure-ai-foundry.-fficial.jpg”>
azure AI Foundry Local për inference on-device
href=”https://learn.microsoft.com/en-us/azure/ai-foundry/foundry-local/what-is-foundry-local”target=”_ bosh”> platforma e konkluzionit në det për Windows dhe MacOS . Ai mundëson që modelet e përparuara të AI të ekzekutojnë direkt në pajisjen e përdoruesit, një largim i rëndësishëm nga modeli me qendër cloud që ka mbizotëruar në peizazhin e AI. Platforma aktualisht është e disponueshme në vrojtimin publik, duke lejuar zhvilluesit të fillojnë të eksperimentojnë menjëherë. Kjo qasje trajton çështjet e latencës, duke i bërë ndërveprimet e AI më të shpejtë. Në mënyrë thelbësore, zhvilluesit mund të përdorin shkritoren lokale pa një pajtim azure, duke ulur barrierën për hyrjen për eksperimentim dhe vendosjen e shkallës së vogël . ONNX Runtime për automatikisht optimizoni performancën e modelit në një gamë të gjerë të pajisjeve, duke përfshirë CPU, GPU, dhe NPU nga shitësit si Intel, AMD, NVIDIA, dhe QUALCOMM . Ajo gjithashtu . aftësi gjithëpërfshirëse.”Foundry Local i sjell këto modele në dritare-duke mundësuar konkluzion të ulët, të sigurt, jashtë linje në të gjithë CPU-të, GPU-të dhe NPU-të. Kjo vjen me mbështetje të plotë të rregullimit dhe orkestrimit.”Kjo pozicionon Foundry Local jo vetëm si një mjedis i ekzekutimit, por si një mjet i plotë zhvillimi për AI On-Device. Modelet tThe janë të disponueshme nën një licencë të lejueshme Apache 2.0, inkurajimi i adoptimit dhe modifikimit të gjerë .
`GPT-OSS-120B` është një model më i madh, më i fuqishëm i arsyetimit me performanca e krahasueshme me sistemet e klasës GPT-4 . Të dyja janë ndërtuar në një arkitekturë efikase të përzierjes së ekspertëve (MOE), e cila aktivizon vetëm një pjesë të parametrave të modeleve për çdo detyrë të caktuar, duke maksimizuar performancën duke minimizuar koston llogaritëse.
Kjo lëvizje adreson një hendek të gjatë në portofolin e Openai. Casey Dvorak, një menaxher i programit të hulumtimit në Openai, shpjegoi arsyetimin:”Për shkak se nuk ka asnjë model të hapur [konkurrues] nga Openai, ne kemi dashur të lidhim atë boshllëk dhe në të vërtetë t’i lejojmë ata të përdorin teknologjinë tonë në të gjithë tabelën”. Kjo i lejon kompanisë të garojë për zhvilluesit që kërkojnë modele të drejtuara në vend për arsye, kosto ose arsye të personalizimit. Ky shabllon strukturon prodhimin e modelit në kanale të ndara për arsyetim (`analiza`), thirrje mjetesh (` koment`), dhe përgjigjja përfundimtare, duke u dhënë zhvilluesve një kontroll më transparent mbi rrjedhën e punës agjentike. përfshin ekosistemin e teknologjisë. Kjo përqafim në mbarë industrinë nënvizon rëndësinë e kthimit të Openai në komunitetin me burim të hapur dhe ambicien e tij për të vendosur standarde të reja për zhvillimin e AI. Kjo mundësi e harduerit është thelbësore për sjelljen e AI në pajisje në laptopë me performancë të lartë, megjithëse aktualisht kërkon një RAM të rëndë 24 GB, duke e vendosur atë fort në kategorinë e harduerit të klasës së zhvilluesit për tani. Lidhjet me Microsoft. Kjo krijon një dinamikë të”bashkë-opeticionit”, duke zgjeruar shtrirjen e Openai ndërsa intensifikon rivalitetin e Cloud AI. Siç është vërejtur nga Peter Henderson, një profesor ndihmës në Universitetin Princeton,”Pjesërisht, kjo ka të bëjë me rivlerësimin e mbizotërimit të Openai në ekosistemin kërkimor”. Vetë Openai e inkuadroi lëshimin në terma gjeopolitikë, duke thënë se”qasje e gjerë në këto modele të afta për pesha të hapura të krijuara në SH.B.A. ndihmon në zgjerimin e shinave të AI demokratike.”Kjo përpjekje e koordinuar synon të krijojë `GPT-OSS` dhe formatin e harmonisë si një standard të ri për gjeneratën e ardhshme të zhvillimit të AI.