Dovoľte mi, aby som vás vzal na prehliadku budúcnosti Británie. Je rok 2030, je viac bezpečnostných kamier ako ľudí, váš hriankovač hlási vaše raňajkové návyky ministerstvu vnútra a policajti už nevyšetrujú zločiny, ale skôr ich predpovedajú.
Toto je Pre-Crime UK, kde sa váha zákona používa proti nevinným ľuďom, ktorých algoritmus podozrieva, že sa chystajú spáchať trestný čin.
S návrhom, ktorý by prinútil Orwella začervenať sa, britská polícia testuje sto nových systémov umelej inteligencie, aby zistila, ktoré z nich dokážu najlepšie odhadnúť, kto sa chystá spáchať trestný čin.
Presne tak: hádaj. Nie chytaj, nie dokazuj. Hádaj. Na základe údajov, predpokladov a pravdepodobne aj vašej histórie vyhľadávania na internete z roku 2011.
Za týmto algoritmickým kúskom stojí ministerka vnútra Shabana Mahmood, ktorá zrejme strávila posledných pár rokov čítaním väzenských plánov a dystopickej fikcie, nie ako varovanie pred autoritárskym dohľadom, ale ako túžbu.
V ohromujúcom rozhovore s bývalým premiérom a obchodníkom s digitálnymi identifikačnými údajmi Tonym Blairom s plným hrdlom povedala: „Keď som bola v justícii, mojou konečnou víziou pre túto časť systému trestného súdnictva bolo dosiahnuť pomocou umelej inteligencie a technológií to, čo sa Jeremy Bentham snažil urobiť so svojím Panopticonom. To znamená, že oči štátu môžu byť neustále upreté na vás.“
Pre tých, ktorí nevedia plynule autoritársku architektúru 18. storočia, je Panopticon väzenský návrh, kde jeden strážca môže sledovať každého väzňa, ale väzni nikdy nevedia, kedy sú sledovaní. Nie je to ani tak „zákon a poriadok“, ako skôr „paranoja z vodovodu“.
Prichádza Andy Marsh, vedúci Policajnej akadémie a muž, ktorý teraz propaguje vlastnú britskú Minority Report.
Podľa denníka Telegraph navrhuje nový systém, ktorý využíva prediktívnu analytiku na identifikáciu a zacielenie na 1 000 najnebezpečnejších mužov v krajine. Nazývajú to „Plán V1000“, čo znie menej ako policajná stratégia a skôr ako vysávač, ktorý sa už nevyrába.
„Vieme, že údaje a história prípadov nám hovoria, že, žiaľ, nie je nezvyčajné, aby sa tieto osoby presúvali od jednej ženskej obete k druhej,“ povedal Sir Andy tónom muža, ktorý sa chystá spustiť aplikáciu.
„Takže chceme použiť tieto prediktívne nástroje, aby sme bojovali proti týmto osobám… polícia ich prenasleduje a my ich zavrieme.“
Myslím tým, že, áno, skvelý titulok. Choďte po predátoroch. Ale akonáhle začnete používať dátové modely, aby ste zistili, kto by mohol spáchať trestný čin, už nebojujete proti zločincom. Bojujete proti pravdepodobnosti.
Vláda, ktorá vždy dychtivo míňa milióny na ospevovanú tabuľku, investuje 4 milióny libier (5,39 milióna dolárov) do projektu na vytvorenie „interaktívnej mapy riadenej umelou inteligenciou“, ktorá presne určí, kde by sa trestný čin mohol stať. Nie kde sa stal. Kde by sa mohol stať.
Údajne predpovedá trestné činy s nožom a odhaľuje antisociálne správanie ešte predtým, ako sa to začne.
Ale nebojte sa, hovorí vláda. Nejde o sledovanie všetkých.
„Zdroj“ objasnil: „To neznamená sledovanie ľudí, ktorí nie sú zločincami – ale ona [Mahmood] má pocit, že ak spáchate trestný čin, obetujete právo na takú slobodu, akú si užívame my ostatní.“
To nie je veľmi upokojujúce, keď pochádza od vlády, ktorá zatvára ľudí kvôli tweetom.
Medzitým v Manchestri skúšajú „asistentov s umelou inteligenciou“ pre dôstojníkov, ktorí sa zaoberajú domácim násilím.
Títo robotickí kopiloti policajtov môžu dôstojníkom povedať, čo majú povedať, ako majú podávať hlásenia a či majú alebo nemajú splniť rozkaz. Je to menej „slúžiť a chrániť“ a viac „spýtajte sa Jeevesa“.
„Ak by ste v súčasnosti strávili 24 hodín na pleci seržanta, boli by ste sklamaní z množstva času, ktorý seržant trávi kontrolou a nie hliadkovaním, vedením a ochranou.“
To je pravdepodobne pravda. Ale je riešením naozaj pripútať si Siri k náramkom a dúfať v to najlepšie?
Napriek tomu Mahmood zostáva optimistická: „AI je neuveriteľne silný nástroj, ktorý môžu a mali by používať naše policajné zložky,“ povedala poslancom a dodala, že musí byť presná.
Povedzte to Shaunovi Thompsonovi, nie zločincovi, ale bojovníkovi proti zločinom s nožmi, ktorý sa ocitol na prijímajúcej strane vševidiaceho robotického oka Metropolitnej polície. V jednej minúte kráča neďaleko London Bridge, pravdepodobne premýšľa o obede alebo o tom, ako napraviť spoločnosť, a v ďalšej minúte ho odtiahnu nabok, pretože nový lesklý systém rozpoznávania tváre polície rozhodol, že vyzerá ako hľadaný muž.
Nebol. Neurobil nič zlé. Ale systém hovoril opak, takže policajti prirodzene poslúchli rozkazy svojho algoritmického nadriadeného a zadržali ho.
Thompson bol prepustený až po tom, čo dokázal, kto je, pravdepodobne s nejakými dokumentmi a veľkou dávkou nedôvery. Neskôr to dokonale zhrnul: zaobchádzalo sa s ním ako s „vinným, kým sa nepreukáže jeho nevina“.
Mahmoodovej pripravovaná biela kniha bude zrejme obsahovať pokyny pre používanie umelej inteligencie. Som si istý, že všetky tie budúce neoprávnené zatýkania budú oveľa prijateľnejšie, keď budú mať vytlačený PDF súbor.
Tu je skutočný problém. Keď už raz normalizujete myšlienku, že polícia môže monitorovať každého, predpovedať trestné činy a konať preventívne, už niet cesty späť. Z podozrievania ste urobili politiku. Systém spravodlivosti ste vybudovali na dohadoch. A žiadne množstvo nablýskaných palubných dosiek ani kamier na rozpoznávanie tvárí neodstráni hnilobu v jadre.
Nejde o chytanie zločincov. Ide o kontrolu. O to, aby sa každý cítil sledovaný. To bol skutočný zámer panoptikonu. A to nie je bezpečnosť; mení to krajinu na jedno veľké väzenie.
Zdroj feed slovenskoveciverejne.com
