Általánosan tette a Microsoft a Copilotját a Microsoft 365 vállalati ügyfeleinek, emiatt módosultak az általános vállalati szerződési feltételek, valamint az ún. MCA (Microsoft Customer Agreement) is.

A generatív mesterséges intelligenciára vonatkozó szabályok között feltűnik egy új fogalom: a "túlzott használat", ami "az Ügyfél Microsoft generatív MI szolgáltatáshoz való hozzáférésének ideiglenes korlátozását eredményezheti". A szöveg azonban több fontos dolgot is homályban tart: mi számít túlzott használatnak, mennyi ideig tarthat az ideiglenes korlátozás, és mi történik akkor, amikor valakit korlátoznak? Ez így elég nagy szabadságot ad a szolgáltatónak.

Nagyon sok kapacitást leköt

Pontosan tudható, például az Adobe-tól, hogy a generatív MI modellek futtatása jelentős kapacitásokat igényel. De míg az Adobe egy meglehetősen szűk felhasználói kört szolgál ki, és áremeléssel kezelhetőnek véli a dolgot, addig a Microsoftnak tömegigényt kell kielégítenie – még akkor is, ha egyelőre csak minden negyedik widowsos PC-n fut Windows 11.

Ennek a nagy felhasználói bázisnak a kiszolgálására a Microsoftnak jelentős kapacitásokat kellett mozgósítania. Az új szabállyal a vállalat valószínűleg szeretne elébe menni, hogy a próbálkozókat elriassza az MI-től a gyenge felhasználói élmény, például az extrém hosszú válaszidő. De fontos cél lehet a költségek kordában tartása is.

A kapacitások bővítése drága, és bár az MI a jövő, mint a legutóbbi negyedéves jelentésből is kiderült, egyelőre az Intelligent Cloud hagyományos szolgáltatásai termelik a sok pénzt. Az Azure OpenAI szolgáltatás ügyfélköre viszont látványosan bővült: három hónap alatt 11 ezerről 18 ezerre. A menedzsment ezzel kapcsolatban fel is hívta a befektetők figyelmét, hogy a felhős MI-szolgáltatások skálázása (értsd: a gyorsan bővülő ügyfélbázis kiszolgálása) sokba fog kerülni. A negyedév 11,2  milliárd dolláros CAPEX-ének jelentős részét például az MI-infrastruktúra bővítése vitte el.

Ráadásul ennek a problémának csak egy része a beruházásigény (adatközpontok, szerverek, GPU-k stb.). A rendszerek üzemeltetése lényegesen költségesebb, mint a hagyományos felhős infrastruktúráké: pl. jóval nagyobb az energiaigény a számítási kapacitás miatt, hatalmas adattömegeket kell mozgatni a hálózatokon stb.

A Microsoftnak erről lehetnek közvetlen tapasztalatai: a The Wall Street Journal értesülései szerint a a GitHub Coplitoja egyelőre jelentős veszteséget termel – a Microsoftnak. A havi előfizetési díj 10 dollár, de egy előfizetőn átlagosan 20 dollárt veszít a GitHub. vannak olyan nehézsúlyú felhasználók is, akik akár 80 dollárba is kerülhetnek havonta a vállalatnak.

Nem újdonság, hogy korlátoznak

Azok a cégek, melyek MI-re épülő szolgáltatásokat kínálnak, mind igyekeznek valahogy kordában tartani a felhasználói túlkapásokat – főként az árazással. Az Adobe-ról fentebb már ejtettünk szót, de a Microsoft is nyúlt már ehhez az eszközhöz a Bing Search API esetében.

Az OpenAI szintén korlátoz: nem csak az ingyenes felhasználásra vezetett be limitet, hanem az API-ra is arra hivatkozva, hogy csak így tud minden ügyfélnek megfelelő hozzáférést biztosítani. Ugyanezen okból tartja fenn magának a jogot a Midjourney, hogy akár a korlátlan hozzáférést vásárló ügyfeleit is korlátozhassa.