Az MI-chatbot üzemeltetési költségét már most is napi 700 ezer dollárra teszik, de még sokkal több is lesz az újabb verziókkal és a felhasználók számának növekedésével.

A nagy adatközpontok energiaigénye és környezeti terhelése eddig is látványosan növekedett, a ChatGPT elsöprő sikerével pedig még látványosabbá vált, hogy milyen gyorsan növekszik a szerverek étvágya. Egy április elején megjelent tanulmányból kiderül, hogy már az OpenAI GPT-3-as modelljének felépítéséhez is nagyjából 3,5-4,9 millió liter vízre lehetett szükség attól függően, hogy hol és milyen hatékonyságú létesítményekben zajlott a munka. A nagy nyelvi modellek ráadásul nem csak a tanításuk, hanem későbbi működtetésük során is rengeteg energiát és vizet fogyasztanak: a százmilliók által használt ChatGPT-nek például fél liter vízre van szüksége egy 20-50 kérdésből álló beszélgetés lebonyolításához.

A The Information múlt heti összeállítása most újabb adatokkal érzékeltette, hogy milyen drága dolog a legnépszerűbb MI-eszköz futtatása és karbantartása. A vállalat pénzügyeit ismerő források megerősítették a lapnak, hogy az OpenAI tavaly több mint 540 millió dollárt (nagyságrendben 200 milliárd forintot) költött a széles körben használt chatbot fejlesztésére, beleértve azokat a költségeket is, amelyek a magasan jegyzett szakemberek megszerzésével jártak. Az OpenAI kiadásai pedig azóta is szüntelenül emelkednek, ami a cég vezérigazgatója szerint is a Szilícium-völgy történetének leginkább tőkeintenzívebb startupjává teheti őket.

Mindenből egyre több kell

A SemiAnalysis tanácsadó vezető elemzője korábban már azt is elmondta a The Informationnek, hogy becslése szerint a ChatGPT működtetése már napi 700 ezer dollárjába kerülhet az OpenAI-nak a megnövekedett számítási igény miatt. A 2015-ben non-profit szervezetként indult OpenAI már 2018-ban kénytelen volt létrehozni profitorientált leányvállalatát, amelynek az ambíciói is rohamosan növekednek: a befektetőknek szóló év végi nyilatkozatokban 2023-ra már 200 millió dolláros, jövőre pedig 1 milliárd dolláros bevételt terveztek, ami meglehetősen merész elképzelésnek tűnik ahhoz képet, hogy tavaly még csak 30 millió dollárt termeltek.

Mint ismeretes, az OpenAI januárban egy több évre szóló megállapodás keretei között 10 milliárd dolláros befektetést szerzett a Microsofttól egy meglehetősen bonyolult, a társaságot 29 milliárd dollárra értékelő ügyletben. A The Information szerint az OpenAI-t irányító Sam Altman már úgy látja, hogy akár 100 milliárd dollárnyi további befektetést kellene megcélozniuk a következő években az általános (más néven emberi szintű) mesterséges intelligencia fejlesztésére, ami már elég előrehaladott lenne ahhoz, hogy folyamatosan javítgassa a saját képességeit. Ennek pedig az az oka, hogy az ügyfelek számának emelkedésével és a szoftverek jövőbeli verzióinak tanításával az OpenAI költségei is ilyen arányban emelkednek majd.

Cloud & big data

Linus Torvalds eligazította a generatív mesterséges intelligenciát

Már nagyon hiányzott a megfelelő iránymutatás a linuxos közösségnek.
 
Hirdetés

Rendszerek és emberek: a CIO választásai egy új magyar felmérés tükrében

"Nehéz informatikusnak lenni egy olyan cégben, ahol sok az IT-s" – jegyezte meg egy egészségügyi technológiákat fejlesztő cég informatikai vezetője, amikor megkérdeztük, milyennek látja házon belül az IT és a többi osztály közötti kommunikációt.

Ezt már akkor sokan állították, amikor a Watson vagy a DeepMind még legfeljebb érdekes játék volt, mert jó volt kvízben, sakkban vagy góban.

a melléklet támogatója a Clico Hungary

Hirdetés

Így lehet sok önálló kiberbiztonsági eszközéből egy erősebbet csinálni

A kulcsszó a platform. Ha egy cég jó platformot választ, akkor az egyes eszközök előnyei nem kioltják, hanem erősítik egymást, és még az üzemeltetés is olcsóbb lesz.

Amióta a VMware a Broadcom tulajdonába került, sebesen követik egymást a szoftvercégnél a stratégiai jelentőségű változások. Mi vár az ügyfelekre? Vincze-Berecz Tibor szoftverlicenc-szakértő (IPR-Insights) írása.

Nyílt forráskód: valóban ingyenes, de használatának szigorú szabályai vannak

Különösen az early adopter vállalatoknak lehet hasznos. De különbözik ez bármiben az amúgy is megkerülhetetlen tervezéstől és pilottól?

Sok hazai cégnek kell szorosra zárni a kiberkaput

Ön sem informatikus, de munkája során az információtechnológia is gyakran befolyásolja döntéseit? Ön is informatikus, de pénzügyi és gazdasági szempontból kell igazolnia a projektek hasznosságát? Mi közérthető módon, üzleti szemmel dolgozzuk fel az infokommunikációs híreket, trendeket, megoldásokat. A Bitport tizennegyedik éve közvetít sikeresen az informatikai piac és a technológiát hasznosító döntéshozók között.
© 2010-2024 Bitport.hu Média Kft. Minden jog fenntartva.