Az átláthatóság és a szoftverbiztonság eddigi tanulságainak alkalmazása egyre nagyobb jelentőséget kap az MI-rendszerekben, ami egyre látványosabb vitát generál a nyitottság tényleges jelentéséről a mesterséges intelligencia fejlesztésében is. Ahogy az AI News hétfői összeállításából kiderül, a meghatározások egyelőre igen képlékenyek, mivel a modellek számos összetevőből építkeznek: a képzéshez használt adatkészletek, a súlyok, a tanításhoz és teszteléshez használt programok és más tényezők teljes láncának nyílt forrásúnak kellene lennie, hogy magukat a modelleket is nyitottnak nevezhessük, de a fontos piaci szereplők között még nincs összhang ezekben az értelmezésekben.
A cikkben az Endor Labs nyílt forrású biztonsági szolgáltató egyik vezetője felhívja a figyelmet az úgynevezett open washing (kb. nyílttá mázolás) veszélyére. Ez hasonlóan működik például a green washing (zöldre festés) jelenséghez, melynek során marketing- és PR-eszközökkel olyan képet igyekeznek kialakítani a vállalatokról, mintha azok a valóságosnál sokkal többet tennének a környezet védelméért. Maga az open washing a nyílt forrású szoftvereknél is működik, ahol az iparági szereplők átláthatóságról beszélnek, miközben lényeges korlátozásokat alkalmaznak: gondoljunk mondjuk a felhőszolgáltatóknál a nyílt forrású megoldások hozzájárulás nélkül kínált, fizetős verzióira.
A biztonságnak is feltétele az átláthatóság
Az AI News szerint a mesterséges intelligenciával kapcsolatban is hasonló úton járnak az állítólagos nyílt LLM-szolgáltatók, akik a megnyitott forráskódok mellé számos kereskedelmi korlátozást vezetnek be, hogy ezeken keresztül őrizzék versenyelőnyüket. Ellenpéldának az MI-ipar feltörekvő (bár a többieknél nem kevésbé ellentmondásos) szereplőjét, a kínai DeepSeeket hozzák fel, ami másoknál nagyobb átláthatóságot és nyilvános ütemtervet is biztosít hosztolt szolgáltatásait illetően, betekintést nyújtva abba, ahogy finomhangolják és üzemeltetik ezeket a modelleket. Ezzel másoknak is megkönnyítik a rendszerek biztonsági kockázatainak vizsgálatát és a DeepSeek saját verziójának éles futtatását.
A szakértő úgy látja, hogy a DeepSeek átláthatósági kezdeményezései igazodnak a nyílt forrású MI irányába mutató tágabb trendhez. Az IDC adatai alapján a szervezetek 60 százaléka már az ilyen modelleket választja a kereskedelmi alternatívák helyett a generatív MI-projektekhez, az Endor Labs pedig azt tapasztalja, hogy a szervezetek alkalmazásonként átlagosan 7-21 nyílt forrású modellt is felhasználnak. Utóbbiak elterjedése ugyanakkor még szükségessebbé teszi a függőségek értékelését is, ami nemcsak törvényességi megfelelést jelent, hanem (a nyílt forráskódú könyvtárakhoz hasonlóan) a működési kockázatok és az ellátási lánc biztonsági kockázatainak feltárását is egészen a képzési adatoktól kezdve.
A kockázatkezelés szisztematikus megközeltéséről további részletek olvashatók az AI News oldalán »
Exkluzív szakmai nap a felhők fölött: KYOCERA Roadshow a MOL Toronyban
A jövő irodája már nem a jövő – hanem a jelen. A digitális transzformáció új korszakába lépünk, és ebben a KYOCERA nemcsak követi, hanem formálja is az irányt. Most itt a lehetőség, hogy első kézből ismerje meg a legújabb hardveres és szoftveres fejlesztéseket, amelyekkel a KYOCERA új szintre emeli a dokumentumkezelést és az üzleti hatékonyságot.
a melléklet támogatója a One Solutions
CIO KUTATÁS
AZ IRÁNYÍTÁS VISSZASZERZÉSE
Valóban egyre nagyobb lehet az IT és az IT-vezető súlya a vállalatokon belül? A nemzetközi mérések szerint igen, de mi a helyzet Magyarországon?
Segítsen megtalálni a választ! Töltse ki a Budapesti Corvinus Egyetem és a Bitport anonim kutatását, és kérje meg erre üzleti oldalon dolgozó vezetőtársait is!
Az eredményeket május 8-9-én ismertetjük a 16. CIO Hungary konferencián.
Nyílt forráskód: valóban ingyenes, de használatának szigorú szabályai vannak