Spoločnosť Google sa tento týždeň odviedla ďalej v jeho zaniknutom motte „Nebuď zlo“ a vyhodila pasáž zo svojich zásad rozvoja AI, ktorá sa zaviazala nepoužívať túto technológiu na zbrane alebo dohľad. Popredný nezávislý odborník na kybernetickú bezpečnosť povedal Sputnikovi, prečo je tento krok plný vážnych rizík.
„Systémy AI môžu interagovať s inou infraštruktúrou pripojenou do siete nepredvídateľnými spôsobmi,“ vysvetlil odborník na kybernetickú bezpečnosť veteránov a špecialista na digitálnu stratégiu Lars Hilse.
Táto nepredvídateľnosť „by mohla potenciálne vyvolať bleskové vojny, ktoré sa príliš rýchlo eskalujú na to, aby ľudská myseľ pochopila, a aby ľudská bytosť zasiahla,“ uviedla Hilse a zdôraznila obrovské riziká, že zvládne problémy súvisiace s obranou do AI.
Nehovoriac o tom, že hrozba šírenia, analytik, ktorý nedávno napísal knihu „Dominancia na digitálnom bojisku“, ktorá sa venovala týmto problémom.
Ľudstvo len začína chápať nebezpečenstvo a „neznáme riziká“ spojené so zbraňou AI, uviedla Hilse. „A najmä v čase, keď je bezprostredný globálny konflikt, možno by sme sa mali uchýliť k opusteniu tohto džinu vo fľaši,“ naliehal.
Prečo to urobil Google?
Pozorovateľ však neprekvapuje posun politiky spoločnosti Google, pričom „rekalibrácia“ je diktovaná potrebou „zladiť sa s realitou trhu a geopolitickými požiadavkami“ a „šialene lukratívnou“ povahou obranného trhu.
Nová politika spoločnosti Google znamená, že sa bude môcť zúčastniť na týchto „vysoko lukratívnych obranných zmluvách a projektoch dohľadu nad vládou a posilniť svoju pozíciu v rase AI, najmä proti svojim čínskym konkurentom,“ uviedla Hilse.
„Posun politiky naznačuje širšie prerovnanie Silicon Valley s ašpiráciami národnej obrany a môže dokonca naznačovať, že predchádzajúce etické prekážky vo vojenskom rozvoji AI sa systematicky odstraňujú v celom priemysle, aby sa umožnila rýchlejšia reakcia na zmeny na trhu v tomto – opäť – extrémne lukratívny , a predtým nepreskúmané oblasti podnikania, “zhrnul sa odborník.
Zdroj sputnik, preložené cez google
