Az OpenAI hivatalos blogjának múlt heti bejegyzése szerint a társaság "készenléti csapatot" (preparedness team) hoz létre azoknak a kockázatoknak a csökkentésére, amelyek a jövőben kifejlesztett és a jelenlegi MI-modellek képességeit jóval meghaladó technológiákból származnak majd. A közlemény alapján az OpenAI biztosítani akarja a nagy teljesítményű MI biztonságához szükséges ismereteket és infrastruktúrát, az új részleg pedig több területen is hozzájárulna a kockázatok nyomon követéséhez, értékeléséhez, előrejelzéséhez és az ellenük való védekezéshez.

Ilyen rendkívüli kockázatnak tartják a kiberbiztonságot, a vegyi, biológiai, radiológiai és nukleáris fenyegetéseket, az MI autonóm replikációját és adaptációját, illetve a "személyre szabott szabott meggyőzést". Ez utóbbit a bejelentésben nem határozzák meg részletesebben, de mintha annak a jelenségnek a kezeléséről lenne szó, amikor az MI rendszeresen olyasmiről próbálja meggyőzni a felhasználókat, ami legalábbis ellentmond a józan eszüknek. A "készenléti csapat" feladata lesz a mindezeknek megfelelő fejlesztési politika kidolgozása és érvényesítése is az OpenAI-nál.

Egyre érdekesebb a műsor

Mivel az OpenAI a részletekbe ezúttal sem megy bele, a beszámolók rögtön kiemelik, hogy megint az a vállalat mentené meg az emberiséget a mesterséges intelligencia fejlődésének káros következményeitől, amelyik ezekért az elsők között felelős, ráadásul egyre látványosabb hatalmas hasznot húz a technológiából. Nem csoda, hogy egyre többen tartják gumicsontnak az MI-fejlesztők által vázolt (és természetesen elhárított) világvégét, amivel a céljuk ezek szerint a szabályok felhígítása lenne a generatív algoritmusok kevésbé szenzációs, de már jól látható káros hatásait illetően.

Az OpenAI most is arról ír a közleményében, hogy komolyan veszi a biztonsági kockázatok teljes spektrumát a mai rendszerektől a szuperintelligencia legtávolabbi tartományáig. Bár nem egyértelmű, hogy ez pontosan mit jelent, kívülállóként a fenyegetések elleni legjobb védekezésnek az tűnhetne, ha visszavennének a tempóból az MI-rendszerek fejlesztésében. Májusban a cég vezérigazgatója például saját maga mondta egy amerikai kongresszusi meghallgatáson, hogy "ha ez a technológia elromlik, akkor nagyon elromolhat", de azóta szerencsére megérkezett a "készenléti csapat" is.