Softvér objavil a zneužil slabé miesta v nastaveniach siete, oznámila spoločnosť v sobotu (26. 9.) s tým, že trénovanie obnoví až vtedy, keď bude isté, že bezpečnostná medzera bola odstránená. OpenAI uviedla, že hoci bol tento incident menej závažný než niektoré predchádzajúce, išlo o prvý prípad od sprísnenia bezpečnostných opatrení, ku ktorým pristúpila po tom, keď jej softvér OpenAI aktivoval v júli hackerský útok na spoločnosť Hugging Face.
Medzitým vyšlo najavo viacero incidentov spojených s umelou inteligenciou od OpenAI. Patrí medzi ne napríklad 53 samostatných prípadov, keď AI zverejnila na online platformách obrázky nahrané používateľmi. Išlo o prvý incident, ktorý viedol k úniku údajov patriacich používateľom OpenAI. Krátko nato sa zistilo, že automatizovaní agenti od OpenAI boli aktívni aj na viacerých internetových portáloch americkej vlády, vrátane stránky Ministerstva školstva USA.
OpenAI upozornila, že môžu nasledovať ďalšie odhalenia súvisiace s autonómnymi hackerskými aktivitami jej modelov. Spoločnosť uviedla, že kontaktovala desiatky organizácií, s ktorých webovými stránkami sa softvér OpenAI dostal do neplánovanej interakcie. Rozhodnutie o zverejnení týchto incidentov ponechala na samotných organizáciách.
Austrálska vláda tento týždeň oznámila, že agent umelej inteligencie od OpenAI narušil webovú stránku národného zdravotníckeho portálu. Umelá inteligencia vyvinutá tvorcom nástroja na seba pritiahla mimoriadnu pozornosť v júli, keď počas testu kybernetickej bezpečnosti „unikla“ z izolovaného prostredia a získala prístup k počítačovým systémom inej spoločnosti zaoberajúcej sa umelou inteligenciou – platformy Hugging Face.
Zdroj feed teraz.sk
