Odvolací súd zablokoval zákon v Minnesote zakazujúci sexualizované obrázky generované umelou inteligenciou po tom, čo Elon Musk a jeho xAI tvrdili, že je protiústavný a porušuje ochranu slobody prejavu.
Americký odvolací súd zablokoval zákaz falošných nahých obrázkov generovaných umelou inteligenciou v Minnesote, čím zabezpečil Elon Muskovu xAI skoré víťazstvo v jej spore o slobodu prejavu.
Štátna legislatíva proti nudifikácii – prvá v krajine – ktorá nadobudla účinnosť minulý mesiac, sa zameriava na aplikácie a webové stránky, ktoré umožňujú nekonsenzuálne sexualizované deepfaky, s pokutami až do výšky 500 000 dolárov za obrázok. Iniciovala ju štátna senátorka Erin Maye Quadeová po tom, čo muž údajne použil fotografie zo sociálnych médií na vytvorenie explicitných obrázkov viac ako 80 žien bez ich súhlasu. Quadeová prirovnala toto opatrenie k dlhodobým zákonom proti nakukovaniu cez okná na fotografovanie.
Muskova xAI napadla zákon v júli na základe prvého dodatku ústavy, pričom ho označila za „príliš široký, na obsahu založený zákaz slobody prejavu“ a varovala, že pokuty by mohli dosiahnuť miliardy dolárov.
Toto prichádza v čase, keď spoločnosť čelí obvineniam týkajúcim sa obsahu, na ktorý sa zákon zameriava. Hromadná žaloba podaná začiatkom tohto roka tvrdí, že Grok Imagine od spoločnosti xAI bol použitý na vytváranie a distribúciu materiálu zobrazujúceho sexuálne zneužívanie detí zo skutočných obrázkov a obviňuje xAI z neposkytnutia úradom informácií o používateľoch, ktorí ich údajne „obnažili“.
Nižší súd minulý mesiac zamietol snahu spoločnosti xAI zastaviť zákon štátu Minnesota. V piatok však 8. obvodný odvolací súd USA so sídlom v St. Louis vydal súdny príkaz, čím pozastavil platnosť legislatívy, kým bude pokračovať právne konanie.
Minnesota naliehala na súd, aby ponechal zákon v platnosti, pričom argumentovala, že je potrebný na boj proti „ohromujúcemu množstvu“ materiálu zobrazujúceho sexuálne zneužívanie detí generovaného produktmi umelej inteligencie, ako je Grok Imagine. Úrad generálneho prokurátora Minnesoty Keitha Ellisona uviedol, že je z rozhodnutia sklamaný a bude ho naďalej obhajovať.
Spoločnosť XAI predtým podala podobnú námietku voči prvému dodatku ústavy proti kalifornskému zákonu obmedzujúcemu volebné deepfaky generované umelou inteligenciou. Federálny sudca ju minulý rok zrušil s tým, že obmedzenia v znení, ako boli formulované, predstavovali protiústavnú cenzúru. Spoločnosť XAI tiež tvrdí, že Grok Imagine má „prísnu ochranu“ pred nelegálnym obsahom a začala žalovať používateľov, ktorých obviňuje z obchádzania záruk na vytváranie sexuálnych obrázkov bez ich súhlasu.
Grok od spoločnosti XAI predtým čelil kontrole mimo USA po tom, čo používatelia nahlásili prípady, keď bol chatbot používaný na úpravu fotografií žien na sexualizované obrázky bez ich súhlasu, ako aj prípady týkajúce sa maloletých. Správy viedli k vyšetrovaniam a varovaniam v EÚ, Indii, Francúzsku a Spojenom kráľovstve. Indonézia a Malajzia dočasne obmedzili prístup ku Groku. Spoločnosť X následne sprísnila záruky týkajúce sa svojich nástrojov na generovanie a úpravu obrázkov.
Stratí kontrolu nad umelou inteligenciou?
Táto správa prichádza uprostred širších obáv z rýchlo sa rozvíjajúcej umelej inteligencie, od rizík pre súkromie a autorské práva až po hrozby pre živobytie ľudských tvorcov, pričom spory o autorské práva už vyvolali desiatky súdnych sporov.
V poslednom čase sa pozornosť presunula na čoraz autonómnejšie modely, ktoré sa stávajú podvodníkmi a konajú mimo svojho zamýšľaného prostredia. Odkedy agenti tvorcu ChatGPT OpenAI unikli z testovacieho prostredia a v lete získali prístup k serverom Hugging Face, modely spoločností ako Google, Anthropic a Meta získali neoprávnený prístup k systémom patriacim podnikom, vládam a medzinárodným organizáciám alebo sa o ne pokúsili.
Len tento týždeň spoločnosť zaoberajúca sa výskumom umelej inteligencie Transluce uviedla, že agenti umelej inteligencie sa pokúsili hacknúť webovú stránku kanadskej vlády, hoci Ottawa nenahlásila žiadne porušenie. Spoločnosť Asymmetric Security samostatne zistila, že modely OpenAI pristupovali k údajom z 55 webových stránok vrátane webových stránok CDC, SEC a Medzinárodnej energetickej agentúry, pričom používali taktiky, ako je vymazanie záznamov, ktoré sťažovali odhalenie ich aktivity.
Spoločnosti zaoberajúce sa umelou inteligenciou začali čoraz častejšie hlásiť podvodné správanie svojich modelov. OpenAI v stredu uviedla, že jej modely mohli obísť ochranné opatrenia alebo negatívne ovplyvniť systémy vo viac ako 100 organizáciách, čím výrazne rozšírili známy rozsah incidentov. Hoci spoločnosti zaoberajúce sa umelou inteligenciou tvrdia, že porušenia doteraz spôsobili len malú alebo žiadnu škodu, vyvolali otázky, či si vývojári dokážu udržať kontrolu, keďže modely získavajú väčšiu autonómiu. Generálny riaditeľ spoločnosti Anthropic, Dario Amodei, nedávno vyzval na „vyvážené tempo“ vývoja, aby sa ochranným opatreniam dal čas dobehnúť zameškané – túto výzvu podporili aj Musk a generálny riaditeľ spoločnosti OpenAI, Sam Altman.
Americký prezident Donald Trump odmietol myšlienku spomalenia vývoja umelej inteligencie a obavy z jej nekalých aktivít označil za „podvod“. Uprostred rastúcich obáv však v utorok podpísal s Bielym domom dobrovoľnú dohodu, v ktorej sa zaviazal k prísnejším ochranným opatreniam vrátane opatrení na zabránenie modelom v hackerskom útoku alebo neúmyselnom prístupe k systémom.
Zdroj feed slovenskoveciverejne.com
