Sajtóhírek szerint a rackekbe túl sűrűn pakolt Blackwell csipek komoly fejfájást okoznak a mérnököknek. A probléma sok jelentős adatközponti fejlesztést lassíthat.

Túlmelegedési problémák miatt főhet a fejük az Nvidia legjelentősebb ügyfeleinek – számolt be hétvégén tűzhöz közeli forrásokra hivatkozva a The Information. A lap értesülései szerint az Nvidia vadonatúj Blackwell GPU-inál fellépő technikai gikszer negatívan befolyásolhatja, késleltetheti az új adatközpontok telepítését, fejlesztését.

A mesterséges intelligenciához köthető feladatok elvégzését különösen hatékonyan támogató grafikus feldolgozóegységek a híradások alapján túlságosan felhevülnek, amennyiben 72 GPU befogadására alkalmas rackekbe szorítják be őket. Állítólag ezzel az Nvidia is tisztában van, és már több alkalommal kérte beszállítóit, hogy a túlmelegedés elkerülése érdekében tervezzék át szervertárolóikat.

A cég szóvívője a fentieket közvetve nagyjából megerősítette a Reuters érdeklődésére. Kiemelve, hogy a partnerek között lebonyolított javítási, fejlesztési körök teljesen bevett mérnöki munkafolyamatnak számítanak.

Hamar munka ritkán jó?

A mesterséges intelligencia ChatGPT által felkorbácsolt hullámait jó ütemben meglovagoló csipgyártó tavasszal jelentette be az MI-feladatok elvégzését a korábbi megoldásoknál lényegesen hatékonyabban támogató Blackwell grafikus feldolgozóegységet. A gyártó közlése szerint a két csip "összeboronálásával" megalkotott sorozat teljesítménye az előző generációval összehasonlítva sokszoros, bizonyos esetekben akár harmincszoros javulást is mutathat egyes számításoknál.

Az eredeti tervek szerint a Blackwellt már kora ősszel tömegesen szerette volna szállítani az Nvidia, ám nyár végén derült ki, hogy tervezési problémák miatt valószínűleg több hónapos késéssel kell kalkulálni. A helyzet a túlmelegedéssel így csak még rosszabb lesz, miközben a cég informatikai partnerei (például a Dell) és legnagyobb ügyfelei (például az Amazon) is a Blackwell-sorozatot preferálja.

A világ legnagyobb cloud szolgáltatója már tavasszal jelezte, nem vásárol az Nvidia jelenleg nagy tömegben szállított szupercsipjéből, a Grace Hopperből, hanem kivárja, amíg az Nvidia képes lesz elegendőt szállítani a nagy nyelvi modellek betanításánál lényegesen gyorsabban dolgozó új szériát.

Mostanra azonban már nemcsak az lett kérdés, hogy a Blackwell architektúrájú GPU-kból, melynek első képviselője a kb. 70 ezer dollárba kerülő GB200, mennyit vesz majd az Amazon, hanem az is, hogy egyáltalán mikor.

Piaci hírek

Egy norvég MI szembeszállna az internetes hazudozással

A Factiverse nevű startup megoldása jó eséllyel kiszúrja, hogy milyen állításoknak érdemes utána menni, és aztán saját közlése szerint a nagy LLM-eknél is hatékonyabban ellenőrzi az információ hitelességét.
 
Ezt már akkor sokan állították, amikor a Watson vagy a DeepMind még legfeljebb érdekes játék volt, mert jó volt kvízben, sakkban vagy góban.
Amióta a VMware a Broadcom tulajdonába került, sebesen követik egymást a szoftvercégnél a stratégiai jelentőségű változások. Mi vár az ügyfelekre? Vincze-Berecz Tibor szoftverlicenc-szakértő (IPR-Insights) írása.

Nyílt forráskód: valóban ingyenes, de használatának szigorú szabályai vannak

Különösen az early adopter vállalatoknak lehet hasznos. De különbözik ez bármiben az amúgy is megkerülhetetlen tervezéstől és pilottól?

Sok hazai cégnek kell szorosra zárni a kiberkaput

Ön sem informatikus, de munkája során az információtechnológia is gyakran befolyásolja döntéseit? Ön is informatikus, de pénzügyi és gazdasági szempontból kell igazolnia a projektek hasznosságát? Mi közérthető módon, üzleti szemmel dolgozzuk fel az infokommunikációs híreket, trendeket, megoldásokat. A Bitport tizennegyedik éve közvetít sikeresen az informatikai piac és a technológiát hasznosító döntéshozók között.
© 2010-2024 Bitport.hu Média Kft. Minden jog fenntartva.