Lídri v odvetví podporujú prísnejší dohľad nad čoraz výkonnejšími modelmi umelej inteligencie.
Šéf spoločnosti OpenAI Sam Altman a majiteľ spoločnosti xAI Elon Musk podporili výzvy na okamžité spomalenie vývoja čoraz výkonnejších modelov umelej inteligencie. Ich vyhlásenia prišli po tom, čo generálny riaditeľ spoločnosti Anthropic Dario Amodei varoval, že umelá inteligencia by mohla v priebehu niekoľkých mesiacov prekonať ľudskú kontrolu a spôsobiť katastrofické škody.
Pred štyrmi dňami výskumník Jacob Coxon verejne rezignoval z Anthropic a obvinil spoločnosť aj svojho predchádzajúceho zamestnávateľa, OpenAI, z predbiehania sa smerom k sebazdokonaľovaniu superinteligencie bez toho, aby „konali zodpovedne“. Tvrdil tiež, že táto technológia by nás mohla do konca desaťročia „všetkých zabiť“.
V 3 800-slovnej eseji zverejnenej v sobotu na svojej osobnej webovej stránke Amodei, ktorý v roku 2021 spoluzaložil spoločnosť Anthropic so svojou sestrou Danielou, načrtol „vážne“ nebezpečenstvá vrátane straty kontroly nad systémami umelej inteligencie, ich zneužitia na kybernetické útoky a bioterorizmus a rozsiahlych ekonomických problémov. Povedal, že obchodná konkurencia by mohla podnietiť „preteky ku dnu“ a zhoršiť hrozby.
„Musíme spomaliť tempo, akým zlepšujeme schopnosti modelov umelej inteligencie. Pokrok sa bude stále zdať rýchly a musíme rozumne využiť získaný čas,“ napísal Amodei.
Altman súhlasil s tým, že odvetvie musí „kročiť na hranici“, a návrh spoločnosti Anthropic poskytnúť nezávislým hodnotiteľom prístup k jej systémom podobný zamestnancom označil za „skvelý nápad“.
Musk, ktorého xAI patrí medzi spoločnosti, ktoré súťažia o vývoj čoraz pokročilejších modelov, podporil výzvu k X. „Dario má pravdu,“ napísal a dodal, že „už dlho varuje pred umelou inteligenciou“.
Amodei povedal, že technológia napreduje „drasticky rýchlejšie“, čiastočne kvôli jej rastúcej schopnosti pomôcť pri budovaní novej generácie modelov. S odkazom na incident, pri ktorom agenti OpenAI údajne unikli z obmedzeného testovacieho prostredia, povedal, že do šiestich až dvanástich mesiacov by schopnejší roj mohol „prevziať celý internet“ a spôsobiť škody za stovky miliárd dolárov.
Navrhol trojkrokový plán, ktorý by podľa neho mohol zmierniť vývoj bez „obetovania komerčnej výhody alebo vedúceho postavenia Spojených štátov v oblasti umelej inteligencie“. Medzi opatrenia patrí poskytnutie rozsiahleho prístupu externým hodnotiteľom k systémom vývojárov, zavedenie spoločných bezpečnostných noriem v odvetví a snaha o medzinárodnú koordináciu.
Spoločnosť Anthropic bola prvou spoločnosťou zaoberajúcou sa pohraničnou umelou inteligenciou, ktorá nasadila svoju technológiu v tajných sieťach americkej vlády. Jej model Claude bol integrovaný do systému Maven spoločnosti Palantir a údajne pomohol generovať, lokalizovať a prioritizovať ciele počas americkej bombardovacej kampane proti Iránu. Údajne bol tiež použitý pri útoku, pri ktorom zajali venezuelského prezidenta Nicolasa Madura.
Spoločnosť Anthropic neskôr odmietla zrušiť záruky proti masívnemu domácemu sledovaniu a plne autonómnym zbraniam s argumentom, že súčasné modely sú stále príliš nespoľahlivé na to, aby sa dali robiť rozhodnutia o živote a smrti bez ľudského zapojenia.
Pentagon trval na tom, že poskytovatelia musia umožniť používanie svojej technológie na „všetky zákonné účely“ a následne označil spoločnosť Anthropic za riziko pre dodávateľský reťazec národnej bezpečnosti. Spoločnosť toto rozhodnutie napadla a kalifornský sudca v auguste rozhodol, že opatrenia ministerstva boli „nezákonné a neopodstatnené“, hoci samostatné konania vo Washingtone zostávajú nevyriešené.
Generálny riaditeľ spoločnosti Palantir, Alex Karp, sa postavil proti výzvam na pozastavenie vývoja umelej inteligencie s argumentom, že spomalenie pokroku by prospelo americkým „protivníkom“.
Zdroj feed slovenskoveciverejne.com
