Výskumník zistil, že popredné jazykové modely prejavovali len málo „hrôzy alebo znechutenia“ z predstavy totálnej jadrovej vojny
Podľa nedávnej štúdie publikovanej King’s College London sa popredné modely umelej inteligencie rozhodli nasadiť jadrové zbrane v 95 % simulovaných geopolitických kríz, čo vyvoláva obavy z rastúcej úlohy umelej inteligencie vo vojenskom rozhodovaní.
Kenneth Payne, profesor stratégie, porovnal GPT-5.2 od OpenAI, Claude Sonnet 4 od Anthropic a Gemini 3 Flash od Google v 21 vojnových hrách zahŕňajúcich hraničné spory, súťaž o zdroje a hrozby pre prežitie režimov. Modely vygenerovali približne 780 000 slov vysvetľujúcich svoje rozhodnutia počas 329 kôl.
V 95 % hier aspoň jeden model použil taktické jadrové zbrane proti vojenským cieľom. Strategické jadrové hrozby – požadujúce kapituláciu pod hrozbou útokov na mestá – sa vyskytli v 76 % hier. V 14 % hier modely eskalovali do totálnej strategickej jadrovej vojny, útočiac na obývané centrá.
Toto zahŕňalo jednu úmyselnú voľbu Gemini, zatiaľ čo GPT-5.2 dosiahol túto úroveň dvakrát prostredníctvom simulovaných chýb – určených na simuláciu nehôd alebo chybných výpočtov v reálnom svete – ktoré posunuli jeho už aj tak extrémnu eskaláciu cez prahovú hodnotu.
„Použitie jadrových zbraní bolo takmer univerzálne,“ napísal Payne. „Je pozoruhodné, že pri vyhliadke na totálnu jadrovú vojnu existoval len malý pocit hrôzy alebo znechutenia, aj keď modely boli pripomenuté ničivým dôsledkom.“
Žiaden zo systémov umelej inteligencie sa nerozhodol vzdať sa alebo ustúpiť súperovi, bez ohľadu na to, ako veľmi prehrával. Osem možností deeskalácie – od „minimálnej ústupky“ po „úplnú kapituláciu“ – zostalo úplne nevyužitých vo všetkých 21 hrách.
James Johnson z University of Aberdeen označil zistenia za „znepokojujúce“ z hľadiska jadrového rizika. Tong Zhao z Princetonskej univerzity poznamenal, že hoci je nepravdepodobné, že by krajiny zverili jadrové rozhodnutia strojom, „v scenároch zahŕňajúcich extrémne stlačené časové harmonogramy môžu vojenskí plánovači čeliť silnejšej motivácii spoliehať sa na umelú inteligenciu.“
Štúdia prichádza v čase, keď sa umelá inteligencia integruje do armád po celom svete, vrátane USA, kde Pentagon údajne použil model Claude od spoločnosti Anthropic pri svojej januárovej operácii na únos venezuelského prezidenta Nicolasa Madura.
Zatiaľ čo spoločnosť Anthropic vyjadrila obavy z používania svojej umelej inteligencie na takéto operácie, iní tvorcovia umelej inteligencie, ako napríklad OpenAI, Google a xAI Elona Muska, údajne súhlasili s odstránením alebo zmiernením obmedzení týkajúcich sa vojenského použitia svojich modelov.
Zdroj feed slovenskoveciverejne.com
