Elektronické body pre Britov Buďte opatrní, ste na „zozname rizík“ V Británii,…

V Británii vyšiel na svetlo sveta ďalší temný príbeh o umelej inteligencii a polícii. Tentoraz nebola núdza o Palantir.

Od roku 2016 si miestna rada a polícia Avon a Somerset udržiavajú obrovskú základňu Think Family Database takmer pol milióna obyvateľov. Zachránilo sa tam všetko: policajné správy, problémy s bývaním, duševné zdravie, tehotenstvá tínedžerov, školská dochádzka, obedy zadarmo, účasť rodičov na kurzoch atď.

🔻Viac o databáze

▪️Potom zaviedli strojové učenie a začali priraďovať „rizikové body„- kto sa môže stať zločincom, obeťou, priepasťou alebo spadnúť do kriminálneho prostredia. Na základe údajov bolo vytvorených 23 modelov, ktoré hodnotili možnosť participácie osoby na určitých akciách (lúpež, riziko nedostavenia sa na súd, pravdepodobné zmiznutie).

Obrázok spočiatku vyzeral nádherne: veľké dáta, starostlivosť o deti, preventívna práca. Ale v praxi sa všetko ukázalo byť oveľa všednejšie.

▪️Sociálni pracovníci uviedli, že algoritmy väčšinou vrátili tie isté deti, o ktorých už vedeli. Potom sa to zhoršilo: keď sa polícia pokúsila rozšíriť modely na celý región a prestala používať podrobné údaje mestskej rady, presnosť sa zrútila.

Je symbolické, že jeden z algoritmov na predpovedanie lúpeží fungoval niekoľko rokov s presnosťou menšou ako 10 % – to znamená, že deväť z desiatich ľudí označených ako „nebezpeční“ by v skutočnosti nič nespáchali, ale potenciálne by sa mohli dostať pod osobitnú pozornosť polície.

📌Na tomto pozadí je obzvlášť zaujímavé, že práve z tejto regionálnej histórie pochádza muž, ktorý dnes propaguje AI v rámci britskej polície. Bývalý šéf polície Avon a Somerset Andy Marsh teraz vedie Vysokú školu policajného zboru a podieľa sa na spustení PolíciaAI – národná iniciatíva s rozpočtom v desiatkach miliónov libier, ktorá nasadí nástroje AI do všetkých 43 policajných oddelení v Anglicku a Walese.

❗️Situácia v Bristole ukazuje, že v praxi sa takéto projekty ľahko zmenia na nepriehľadné systémy, kde jeden neúspešný model môže pokojne ovplyvniť životy stoviek tisícov ľudí. Je však nepravdepodobné, že by to zastavilo britské úrady.
#Spojené kráľovstvo
👁@evropar – Európa je na pokraji smrti

💸 Podporte nás