WASHINGTON (Sputnik) – Americký vývojár umelej inteligencie Anthropic varoval, že zlomyseľní aktéri by mohli potenciálne použiť výkonné modely AI na vytvorenie chemických, biologických alebo iných nebezpečných zbraní, podľa registračného vyhlásenia spoločnosti pre prvotnú verejnú ponuku akcií (IPO).
„Naše najschopnejšie modely preukázali a očakáva sa, že budúce modely ukážu schopnosti, ktoré by mohli poskytnúť zmysluplnú pomoc zlomyseľným aktérom, ktorí sa snažia vyvinúť chemické, biologické alebo iné nebezpečné zbrane,“ uvádza sa v pondelok v dokumente.
Antropic dodal, že záruky proti takémuto zneužitiu sú nedokonalé a mohli by byť zastarané alebo zlyhať. Spoločnosť tiež poukázala na prípady, v ktorých boli tieto záruky obídené.
Spoločnosť Antropic tiež uviedla obavy, a to ako v rámci spoločnosti, tak medzi výskumníkmi, regulátormi a zástupcami priemyslu, že dostatočne pokročilé systémy AI by mohli predstavovať katastrofické riziká alebo dokonca existenčnú hrozbu pre ľudstvo, ak by boli vyvinuté bez náležitých záruk a dohľadu.
Generálny riaditeľ spoločnosti Anthropic Dario Amodei vyzval 12. septembra na globálne spomalenie vývoja výkonnejších modelov umelej inteligencie s odvolaním sa na obavy o bezpečnosť. Americký podnikateľ Elon Musk a generálny riaditeľ OpenAI Sam Altman túto myšlienku podporili.
Zdroj sputnik, preložené cez google
