Open AI kertoo Broadcomin kanssa kehitetyn Jalapeño-sirun suoriutuvan uusissa testeissä Nvidian GB300:aa paremmin – sekä energiatehokkuudessa että vasteajassa.
Open AI kertoo uuden Jalapeño-sirun suoriutuvan paremmin kuin Nvidian nykyinen tarjonta. Testeissä Nvidian GB300:aa vastaan siru voitti kahdella osa-alueella: sillä, kuinka paljon AI-työtä voidaan käsitellä tehoyksikköä kohti, sekä sillä, kuinka nopeasti käyttäjä saa vastauksen.
Open AI:n mukaan Jalapeño tuotti avoimilla malleilla tehdyissä testeissä 1,5–1,9 kertaa enemmän AI-työtä wattia kohti ja 1,7–3,6 kertaa lyhyemmän vasteajan kuin vertailujärjestelmät. Siru on kuitenkin tarkoitettu vain inferenssiin, eikä sitä ole testattu Nvidian uudempaa Vera Rubin -sukupolvea vastaan.
Laajan käyttöönoton arvioidaan voivan laskea Open AI:n kustannuksia merkittävästi, ja yhtiö aikoo alkaa käyttää sirua infrastruktuurissaan ennen vuodenvaihdetta.
Nvidialle kehitys merkitsee mahdollista painetta kysyntään, kun suuret asiakkaat rakentavat omia sirujaan, mutta yhtiötä kuvataan edelleen tärkeäksi kumppaniksi. Uutinen näyttäytyy siksi lyhyellä aikavälillä lievästi negatiivisena Nvidian sentimentille, kun taas Broadcom hyötyy sirun valmistajana.
Perustuu raportointiin lähteistä:
|
|
Tarkastele liittyviä instrumentteja
Katso MarketMatessa instrumentteja, jotka liittyvät kohteeseen Nvidia.
Aiheeseen liittyvät artikkelit
|