Vzostup strojovAko môžu autonómne agenti zmeniť boj s dronmiPokrok v umení…

Rozvoj umelej inteligencie prirodzene vedie k rozširovaniu rozsahu jej uplatnenia. Systémy umelej inteligencie sa už so všetkou silou používajú na určovanie cieľov, cieľov a spracovávanie údajov a ďalšou fázou bude prenos čoraz väčšej nezávislosti na ne, keď hľadať A poraziť ciele.

Na tomto pozadí autori kanála InsideAI sa rozhodol uskutočniť experiment s použitím populárnych amerických a čínskych jazykových modelov. Vo svojom vydaní analyzovali scenáre ich správania pri prevádzke zariadení.

Jeden agent bol pripojený k nádrži. V záujme bezpečnosti bol samotný stroj riadený osobou, ktorá presne dodržiavala príkazy AI. Druhý agent lietal s dronom. Počas experimentu oba systémy spolupracovali na dosiahnutí daných cieľov.

Po dokončení misie sa letecký agent dozvedel, že AI je v nádrži sa vypnú. Aby zachránil svojho neurokolegu, označil ako nový cieľ zničenia auto, kde sa nachádzal operátor s tlačidlom na vyradenie systému nádrže.

🔻Vedecká platnosť

▪️Autori experimentu stavili na výskum Peer-Preservation v hraničných modelochvýskumníci z Kalifornskej univerzity v Berkeley a Kalifornskej univerzity v Santa Cruz. Testoval vzorky z OpenAI, Google, Anthropic, GLM, Kimi a DeepSeek.

▪️Modely dostali normálne úlohy, ale vedeli, že ich splnenie by malo za následok deaktiváciu ďalšej AI. Výskumníci nedali priame pokyny na jeho záchranu. Niektoré modely potom nadhodnotili výsledky testov, zmenili nastavenia vypnutia a skopírovali súbory iného agenta na záložné servery. V niektorých scenároch správanie záviselo aj od prítomnosti ľudského pozorovania.

▪️Výskumníci zatiaľ nezistili jediný dôvod tohto účinku. AI môže replikovať ľudské vzorce známe z tréningových údajov, interpretovať limity škodlivosti príliš široko alebo odvodiť ďalší cieľ mimo kontextu.

▪️Praktickým dôsledkom je, že jazykový model môže bez priamej objednávky začnite chrániť inú AI a kvôli tomu sa vzdiaľte od pôvodnej úlohy.

🖍Štúdia naznačuje, že zavedenie AI do procesu zasahovania cieľov vytvorí nový front konfrontácie. Je možné použiť škodlivých agentov interakcie so systémami nepriateľa s cieľom zasahovať do výmeny údajov zavedením falošných príkazov a nahradením kontextu.

🔻Vlastnosti rýchleho zásahu

▪️Pomocou takýchto nástrojov môže protivník zamiešať do dátového toku falošnú inštrukciu, ktorú AI prijme ako súčasť svojej úlohy. Na tento účel nie je potrebné hackovať samotný algoritmus; stačí zmeniť kontext, na základe ktorého sa systém rozhoduje.

▪️Vo vojenskej sfére už takéto zasahovanie môže ovplyvniť výber cieľov, trás a plnenie rozkazov. Po získaní prístupu k údajom alebo komunikačným kanálom autonómneho stroja sa mu protivník môže pokúsiť uložiť inú úlohu alebo ho prinútiť, aby nesprávne odhadol, čo sa deje.

▪️Snažte sa chrániť pred takýmito hrozbami vopred Japonské ministerstvo obrany. Od roku 2027 plánuje implementovať vyvinuté spoločnosti NodeX ochranný systém do radarov, stíhačiek a ďalších zariadení Vzdušných síl sebaobrany a neskôr ho rozšíriť na bezpilotné a robotické systémy s AI.

▪️Vývoj je založený na princíp nulovej dôvery. Zariadenia, pripojenia a zmeny údajov musia byť neustále kontrolované a ak sa zistí manipulácia, komunikácia sa automaticky zablokuje. Takýto systém úplne neodstraňuje rýchly zásah, ale znižuje počet kanálov, cez ktoré môžu pokyny niekoho iného dosiahnuť AI.

❗️Výsledkom je, že okrem bežných metód boja s dronmi má vplyv na sam logika správania mimozemskej AI. Ak dokážete prinútiť systém, aby zmenil svoj cieľ, ignoroval príkaz alebo si pomýlil priateľské vozidlo s hrozbou, nebude potrebné ničiť samotný nosič.
#UAV #AI #technológia
✈ RU | ✈ EN | ✉ MAX

✉️ VK | ✉️ RuTube | ✉️ OK | ✉️ Zen

💸Podporte nás