Egy átlag fejlesztő bérköltségét is meghaladhatják az MI-alapú kódoláshoz tartozó vállalati költségek – figyelmeztet a Gartner pár napja kiadott jelentése. A tanácsadónál úgy látják, a kódok előállításához szükséges tokenhasználat növekedése, illetve a szolgáltatói árazási modellben már most érezhető változás két éven belül oda vezethet, hogy a költségcsökkentés reményével bevezetett algoritmusok többe kerülnek majd, mint amennyit ugyanezért a munkáért húsvér programozóknak kéne fizetni.

A jelentés megállapítja, hogy a generatív MI-eszközök bevezetése a legtöbb helyen már túllépett a kísérleti fázison, a döntéshozók azonban rendszerint alábecsülik a skálázódás pénzügyi terheit. Nitish Tyagi, a Gartner vezető elemzője szerint a programozók érthető módon a gyorsaságot és a kényelmet preferálják a költséghatékonysággal szemben, így a menedzsmentre hárul a feladat, hogy elkerüljék azt a kellemetlen szituációt, amikor az IT-büdzsé gyorsabban apad el a vártnál, a remélt termelékenységnövekedés helyett pedig csak a számlák tornyosulnak.

A tanácsadó cég nevéhez hűen igyekszik olyan tanácsokkal ellátni a fejlesztésekért felelős vezetőket, amelyekkel a már most érezhető probléma nem hízik kezelhetetlenné a közeljövőben. A Gartner szerint ilyen lehet többek között a differenciált modellhasználat, azaz ágyúval ne lőjjünk verébre, az egyszerűbb feladatokat mindenképpen kisebb, olcsóbb modellekkel végeztessük el. Szintén kímélheti a költségeket a "bemeneti oldal" optimalizálása, tehát az algoritmus instruálásánál csak lényegi adatokkal dolgozzunk, ami alapból csökkentheti a tokenigényt. Fontos megemlíteni a tokenekkel kapcsolatos limitek felállítását, és a fogyasztás folyamatos, automatizált monitorozását is. Az ezekből a riportokból leszűrt tapasztalatok pedig segíthetnek feltárni azokat a felesleges, "túlfogyasztó" folyamatokat a projektekben, amelyeket érdemes lesz elkerülni, megváltoztatni a jövőben.

Gyorsan tele lesz a token

Az MI-kódolással kapcsolatos költségnövekedések egyik alapvető oka az, hogy az irdatlan pénzeket beruházó szolgáltatók elkezdtek átállni a becsalogató fázisról a pénztermelő működésre. A jellemzően nem túl drága előfizetéses modelleket egyre több helyen cserélik le tokenalapú elszámolásra, ami nem ritkán pánikszerű reakciókat okoz a felhasználói oldalon. A váltás szembesítette a fejlesztőket azzal, hogy egy-egy kérdésük megválaszolásához mekkora erőforrásokat kell mozgósítani (pl. tárhely, GPU-idő stb.), de néhol ez a folyamat komoly tanulópénzzel jár.

A témával kapcsolatban pár nappal ezelőtt a Bitport is készített egy bővebb kisokost, amely egyetlen kattintással érhető el az érdeklődők számára.