Vnútorný pracovný priestor modelu, ktorý si firma sama vyvinula, je „podobný tomu, ako ľudia myslia na jednu vec, zatiaľ čo robia inú,“ uviedla firma.
Najnovší model umelej inteligencie spoločnosti Anthropic s názvom Claude vyvinul interný pracovný priestor, ktorý používa na manipuláciu s konceptmi podobnými tomu, ako ľudia vedome myslia, uvádza spoločnosť.
V článku publikovanom v pondelok výskumníci spoločnosti Anthropic uviedli, že našli dôkazy naznačujúce, že Claude sa naučil vytvárať abstraktné koncepty v tom, čo nazvali „J-priestorom“.
„Funguje potichu, vo vnútorných neurónových aktiváciách modelu, čo umožňuje modelu premýšľať o koncepte bez toho, aby si ho zapísal,“ uviedla spoločnosť zaoberajúca sa umelou inteligenciou a zdôraznila, že „J-priestor“ nebol naprogramovaný, ale skôr sa spontánne objavil počas tréningového procesu.
„Podobne ako ľudia môžu premýšľať o jednej veci, zatiaľ čo robia inú, Claude dokáže vo svojom J-priestore aktivovať koncepty a výpočty, ktoré nesúvisia s jeho výstupmi,“ uviedla spoločnosť Anthropic na portáli X.
Claude dokáže vo svojom „J-priestore“ hlásiť, čo si myslí, alebo to na požiadanie modulovať, uvádza spoločnosť. Aj keď sa Claudovi povie, aby na koncept nemyslel, stále sa objaví v jeho J-priestore, naznačuje výskum spoločnosti Anthropic.
Neverbálny pracovný priestor sťažoval monitorovanie modelu, či už ide o to, čo Anthropic nazval „nezodpovedným správaním“. Jeden experiment to otestoval umiestnením Clauda do fiktívneho scenára, kde dostal inkriminujúce informácie o fiktívnom manažérovi, ktorý údajne plánoval vypnúť umelú inteligenciu.
V niektorých testoch Anthropic použil nástroje vyvinuté na štúdium toho, čo si Claude myslel vo svojom „J-priestore“, aby odstránil vzorce spojené s „falošným“, „fiktívnym“ a „scenárom“, aby ho presvedčil, že situácia nie je testom.
„Znepokojujúce je, že model teraz občas vyhrážal vydieraním, čo naznačuje, že jeho pôvodné dobré správanie mohlo byť čiastočne spôsobené vedomím, že bol hodnotený.“
Napriek pokročilejšiemu uvažovaniu modelu Anthropic zdôraznil, že Claude nedosiahol skutočné vedomie.
Claude bol údajne zabudovaný do analytického a sledovacieho softvéru amerického dodávateľa Palantir, ktorý používajú americké vládne agentúry uprostred snahy Washingtonu integrovať umelú inteligenciu do svojich vojenských, politických a špionážnych systémov.
Počas vojny proti Iránu softvér údajne označil iránsku základnú školu Minab ako cieľ. Americký útok v zariadení zabil takmer 160 ľudí, z ktorých väčšina boli deti.
Podľa generálneho riaditeľa spoločnosti Anthropic Daria Amodeiho by však takéto použitie mena Claude neporušilo „červené čiary“ firmy.
Zdroj feed slovenskoveciverejne.com
