Az OpenAI társalapítója és vezető MI-tudósa, Ilya Sutskever 2024 májusában távozott viharos körülmények között a vállalattól, nem sokkal később pedig Safe Superintelligence Inc. néven új startup céget indított egy olyan technológia felépítésére, amelyik nem feltétlenül szabadítja majd rá az emberiségre a világvégét. Az új vállalkozás honlapján a biztonságos szuperintelligencia fejlesztését "korunk legfontosabb technikai problémájának" nevezik, mivel úgy látják, hogy az emberi képességeket meghaladó gépi rendszerek felépítése elérhető közelségbe került. Éppen ezért szükségesnek tartják, hogy a biztonság és a teljesítmény kérdését egymással összefüggésben kezeljék, amit más esetekben lehetetlenné tesz az iparági szereplőkre nehezedő profitkényszer.

Befektetőkre természetesen a Safe Superintelligence-nek is szüksége van, és a hírek szerint alig néhány hónap alatt össze is szedte az első egymilliárd dollárját. A még mindig rejtélyes vállalkozás a PitchBook adatai alapján időközben 7 milliárd dollárt gyűjtött össze, az utolsó tőkebevonás utáni értéke pedig 32 milliárd dollár volt. Legalábbis eddig, mert a startup a legfrissebb hírek szerint hosszú távú együttműködésbe kezdett az Nvidiával: a Bloomberg beszámolója szerint a big tech vállalat több mint 5 milliárd dolláros tőkebefektetést hajt végre a Safe Superintelligence-ben egy olyan stratégiai partnerség részeként, amelyben Vera Rubin platformjához is hozzáférést biztosít az MI-fejlesztőnek, várhatóan "nagyságrendekkel megnövelve" annak számítási erőforrásait.

Nem termékfejlesztéssel foglalkoznak

Az Nvidia szerint a Safe Superintelligence már "jelentős kutatási mérföldköveket" ért el, a mostani befektetéssel pedig felgyorsítanák az SSI fejlődésének következő szakaszát, egyben hozzáférést nyerve a startup szigorúan őrzött kutatásaihoz. A TechCrunch ezzel kapcsolatban Sutskever egyik nyilatkozatát is idézi: ebben a tudós arról beszél, hogy cégének "vannak olyan kutatásai, amelyek érdemesek a bővítésre" és "egy nagy NVIDIA-számítógéphez való hozzáférés" ezt lehetővé is teszi, a Vera Rubin platform a következő szintre emeli a Safe Superintelligence munkáját. Ahogy a cikk emlékeztet rá, ebben "közvetlen kutatási megközelítést" alkalmaznak, vagyis kereskedelmi termékek bemutatása és rövid távú bevételi ciklusok nélkül végzik a fejlesztéseket.

Az ilyen nyomás arra ösztönzi az MI-cégeket, hogy a biztonság tekintetében alacsonyan tartsák a lécet, az egyre aggasztóbb események pedig kétségessé teszik, hogy ilyen körülmények között sikerülhet-e kordában tartani a mesterséges intelligenciát az egyre újabb és egyre hatékonyabb modellek megjelenésével. Mindenesetre az Nvidia szerint a két vállalat együttműködik majd a csipgyártó számítási platformjainak fejlesztésében, és a Safe Superintelligence tavaly már a Google Clouddal is partnerségre lépett annak támogatásáért cserébe. Sutskever korábban az OpenAI mára megszűnt Superalignment csapatát is vezette, melynek szerepe a mesterséges szuperintelligencia biztonságos irányításának és ellenőrzésének technikai megoldása volt – pontosabban lett volna.