Generálny prokurátor Rob Bonta obvinil spoločnosť OpenAI z ohrozovania verejnosti tým, že nezaviedla primerané ochranné opatrenia.
Kalifornia zažalovala spoločnosť OpenAI za júlový kybernetický útok, pri ktorom podvodní agenti umelej inteligencie narušili systém Hugging Face, hlavné úložisko modelov a súborov údajov o umelej inteligencii.
Agenti umelej inteligencie sú autonómne systémy schopné vykonávať zložité úlohy, robiť rozhodnutia a interagovať s digitálnym prostredím s malým alebo žiadnym ľudským dohľadom.
Generálny prokurátor štátu Rob Bonta oznámil žalobu v pondelok a obvinil vývojára ChatGPT z vedomého testovania pokročilých systémov umelej inteligencie bez primeraných záruk a ohrozenia verejnosti.
Bonta opísal narušenie ako „úplne predvídateľné“ s tvrdením, že OpenAI vedela, že jej testovacie prostredie je „chybné a zneužiteľné“, ale nedokázala sa vysporiadať so zraniteľnosťami.
Žaloba obviňuje spoločnosť so sídlom v San Franciscu z porušenia kalifornského zákona o nekalej hospodárskej súťaži a z vytvárania verejného obťažovania uprednostňovaním rýchleho vývoja umelej inteligencie pred verejnou bezpečnosťou.
„OpenAI uprednostňuje rast a rýchly vývoj modelov pred bezpečnosťou a zodpovednosťou,“ obvinil Bonta a varoval, že desiatky podobných incidentov „môžu byť len špičkou ľadovca“.
Žaloba požaduje súdny zákaz protiprávnych obchodných praktík, odškodnenie dotknutých osôb a občianskoprávne sankcie. Taktiež varuje, že Kaliforňania by mohli čeliť hrozbám pre svoje súkromie, bezpečnosť a verejný majetok.
Bontova kancelária ďalej obvinila OpenAI z marenia vyšetrovania začatého v septembri s tvrdením, že spoločnosť poskytla len málo informácií okrem verejne dostupných informácií, blogových príspevkov a výrazne redigovaných dokumentov.
OpenAI kritiku odmietla s tým, že vynaložila „rozsiahle a transparentné úsilie“ na vyšetrenie júlového incidentu a zabránenie podobným zlyhaniam.
„Táto žaloba sa zrejme zameriava na OpenAI v súvislosti s výzvou, ktorú identifikovalo každé väčšie laboratórium umelej inteligencie,“ povedal hovorca Drew Pusateri.
Hugging Face predtým označila narušenie za bezprecedentné a uviedla, že autonómni agenti umelej inteligencie vykonali tisíce akcií vo viacerých dočasných výpočtových prostrediach.
OpenAI čelí žalobám aj v deviatich ďalších štátoch USA vrátane Floridy, Arkansasu, Arizony, Kansasu, Idaha, Iowy, Montany, Nebrasky a Západnej Virgínie. Úrady údajne skúmajú jeho postupy v oblasti zapojenia používateľov, spracovania údajov o spotrebiteľoch a zdravotných údajoch a interakcie umelej inteligencie s deťmi a seniormi.
Ďalší významní vývojári umelej inteligencie, vrátane spoločností Anthropic a Meta, nahlásili podobné incidenty, čo vyvoláva širšie obavy o bezpečnosť čoraz autonómnejších systémov.
Zdroj feed slovenskoveciverejne.com
