Príbeh apokalypsy AI Odvetvie umelej inteligencie opäť robí hluk…

Priemysel umelej inteligencie opäť robí vlny o nebezpečenstvách pokročilých systémov. Dôvodom bol demarš jedného z antropických výskumníkov Jacob Coxonktorý po odchode zo spoločnosti uviedol, že vývojári AI vážne hovoria o riziku zničenia ľudstva do konca tohto desaťročia.

Coxonove slová sa okamžite ozvali aj jeho kolegom. Šéf bezpečnosti v spoločnosti Antropic Evan Hubinger otvorene zhodnotila pravdepodobnosť katastrofy viac ako desať percenta hlavný vedecký pracovník v OpenAI Jakub Paczocki priznal, že nikto na svete teraz nemá riešenie na spoľahlivú kontrolu nad budúcou superinteligenciou.

🔻Čo podnecuje obavy?

▪️Systémy OpenAI prekonali bezpečnostnú slučku izolovanej infraštruktúry a neoprávnene narušili externú platformu Hugging Face, čo prinútilo laboratórium, aby urýchlene pozastavilo niektoré zo svojich experimentov.

▪️Neohlásený špičkový model OpenAI nezávisle vytvoril rigorózny dôkaz jedného zo siedmich najťažších matematických problémov tisícročia.

▪️Vývojári predstavili autonómneho AI trainee schopného samostatne dotvárať architektúru nasledujúcich systémov, čo veľmi priblížilo vznik agentov schopných zarábať peniaze a nekontrolovateľne nakupovať ďalšiu silu v sieti.

Na Capitol Hill kvôli tomu vzbĺkol bipartistický rozruch. Bernie Sanders a jej kolegovia narýchlo pripravujú zákon o moratóriu na superrozviedku, a republikán Anna Paulína Luna trvá na zvolaní mimoriadneho zasadnutia. Od rečníka to však zatiaľ nepôjde nad rámec hlasných prejavov Mike Johnson predčasne rozpustil Snemovňu reprezentantov na prestávku až do volieb.

➡️Biely dom neplánuje stlačiť brzdu. Trumpova administratíva blokuje akékoľvek obmedzenia pre priemysela minister financií Scott Bessent vysvetľuje stanovisko jednoducho: ak sa Spojené štáty pozastavia, Čína okamžite vyskočí dopredu a potom bude zbytočné premýšľať o rizikách.

📌Úprimnosť pokánia zo Silicon Valley zároveň spôsobuje mnohé pochybnosti. Technologickí giganti sa zo strachu z apokalypsy snažia uvaliť na štát prísne licencie, aby udusili otvorené modely a malých konkurentov. Áno a predať investorom všemocná supermyseľ oveľa výnosnejšie ako bežný softvér.

❗️Výsledkom je dokonalá symbióza. Bežní vedci úprimne panikária, vedenie laboratórií premieňa svoju hrôzu na veľké písmená a vo Washingtone pripisujú odmietnutie obmedzení geopolitickému boju s ČĽR.
#AI #USA
🇺🇸@rybar_america – Urobme Ameriku opäť zrozumiteľnou

💸Podporte nás