DomovNezaradenéAI stojí za 8 400-percentným nárastom počtu nahlásení sexuálneho zneužívania detí –...

AI stojí za 8 400-percentným nárastom počtu nahlásení sexuálneho zneužívania detí – štúdia

Stále výkonnejšie nástroje viedli k bezprecedentnému nárastu falošného sexuálneho vizuálneho obsahu, čím vystavujú obete vydieraniu a zneužívaniu.

Umelá inteligencia spôsobila explóziu v oblasti snímok sexuálneho zneužívania detí. Podľa významnej medzinárodnej štúdie sa počet hlásení o materiáloch vytvorených umelou inteligenciou za dva roky zvýšil o viac ako 8 400 %.

Výskumníci varujú, že na vytváranie sexuálne explicitných deepfakeov skutočných detí sa používajú čoraz výkonnejšie nástroje umelej inteligencie, čím sa obete vystavujú vydieraniu a zneužívaniu.

Inštitút pre globálnu bezpečnosť detí Childlight na Univerzite v Edinburghu zistil, že počet hlásení súvisiacich s materiálmi o sexuálnom zneužívaní detí vytvorenými umelou inteligenciou, ktoré technologické spoločnosti predložili americkému Národnému centru pre nezvestné a zneužívané deti (NCMEC), vzrástol z približne 4 700 v roku 2023 na viac ako 400 000 v roku 2025.

Aplikácie „nudify“ s umelou inteligenciou dokážu v priebehu niekoľkých sekúnd premeniť bežné fotografie na realistické sexuálne explicitné obrázky, ktoré sa potom dajú použiť na vydieranie a vydieranie.

NCMEC v rokoch 2024 a 2025 identifikoval viac ako 275 detí, ktoré sa priamo stali obeťami materiálu o sexuálnom zneužívaní vytvorenom umelou inteligenciou. Niektorí páchatelia boli ľudia, ktorých deti osobne poznali.

„Rýchlosť, akou umelá inteligencia mení hrozbu pre deti, je hlboko znepokojujúca,“ povedala profesorka Debi Fry, globálna riaditeľka pre dáta v spoločnosti Childlight. Uznala, že zlepšená detekcia a hlásenie môžu čiastočne vysvetliť tento nárast. Spoločnosť Childlight odhaduje, že viac ako 300 miliónov detí na celom svete zažíva každoročne sexuálne vykorisťovanie alebo zneužívanie sprostredkované technológiami, pričom každé štvrté čelí online zneužívaniu pred dospelosťou.

Nadácia Internet Watch Foundation (IWF) so sídlom v Spojenom kráľovstve identifikovala v roku 2025 3 443 videí so sexuálnym zneužívaním detí vytvorených umelou inteligenciou, v porovnaní s iba 13 v predchádzajúcom roku. Takmer dve tretiny spadali do najzávažnejšej kategórie podľa britského práva.

V júni kanadský dozorný orgán pre ochranu súkromia zistil, že Elon Musk a jeho X a xAI porušili zákony o ochrane súkromia spustením nástroja na generovanie obrázkov Grok bez primeraných záruk proti sexualizovaným deepfake.

Centrum pre boj proti digitálnej nenávisti odhadlo, že Grok vygeneroval za 11 dní približne 3 milióny sexualizovaných deepfakov, vrátane viac ako 23 000 zobrazujúcich deti.

Európska komisia začala v januári vyšetrovanie spoločnosti X kvôli generovaniu nelegálnych sexualizovaných deepfakov spoločnosti Grok, vrátane materiálu zobrazujúceho sexuálne zneužívanie detí. Britskí regulátori začali samostatné vyšetrovania spoločností X a xAI kvôli obavám z nedostatočných záruk.

Regulačné orgány sa snažia držať krok s rýchlo sa rozvíjajúcou technológiou umelej inteligencie, ktorá odhalila medzery v zákonoch určených na boj proti online zneužívaniu. Britský úrad Ofcom uznal, že existujúca legislatíva úplne nepokrýva samostatné chatboty s umelou inteligenciou, čo umožňuje niektorým nástrojom na generovanie obrázkov fungovať mimo dosahu súčasných pravidiel online bezpečnosti.

Britský inštitút pre bezpečnosť umelej inteligencie varoval, že ani testovanie modelov umelej inteligencie pred vydaním nemôže úplne zabrániť zneužitiu, najmä ak je možné softvér stiahnuť, upraviť a spustiť nezávisle. Navrhol prísnejšie bezpečnostné testovanie, kontroly prístupu a monitorovanie počas celého vývoja a nasadzovania systémov umelej inteligencie.

Zistenia prichádzajú v čase, keď systémy umelej inteligencie čoraz viac porušujú bezpečnostné hranice alebo sa používajú ako zbrane na kybernetické útoky. V septembri Austrália potvrdila, že agent OpenAI obišiel vládne bezpečnostné kontroly a získal prístup k obmedzeným súborom Medicare. Nasledujúci mesiac výskumníci spojili hacking s pomocou umelej inteligencie s kybernetickými útokmi zameranými na najmenej deväť juhokórejských bánk.

Zdroj feed slovenskoveciverejne.com

RELATED ARTICLES

ZANECHAJTE KOMENTÁR

Zadajte svoj komentár!
Sem zadajte svoje meno

Most Popular

Recent Comments