Vnútorný pracovný priestor modelu, ktorý si firma sama vyvinula, je „podobný tomu, ako ľudia myslia na jednu vec, zatiaľ čo robia inú,“ uviedla firma.
Najnovší model umelej inteligencie spoločnosti Anthropic s názvom Claude vyvinul interný pracovný priestor, ktorý používa na manipuláciu s konceptmi podobnými tomu, ako ľudia vedome myslia, uvádza spoločnosť.
V článku publikovanom v pondelok výskumníci spoločnosti Anthropic uviedli, že našli dôkazy naznačujúce, že Claude sa naučil vytvárať abstraktné koncepty v tom, čo nazvali „J-priestorom“.
„Funguje potichu, vo vnútorných neurónových aktiváciách modelu, čo umožňuje modelu premýšľať o koncepte bez toho, aby si ho zapísal,“ uviedla spoločnosť zaoberajúca sa umelou inteligenciou a zdôraznila, že „J-priestor“ nebol naprogramovaný, ale skôr sa spontánne objavil počas tréningového procesu.
„Podobne ako ľudia môžu premýšľať o jednej veci, zatiaľ čo robia inú, Claude dokáže vo svojom J-priestore aktivovať koncepty a výpočty, ktoré nesúvisia s jeho výstupmi,“ uviedla spoločnosť Anthropic na portáli X.
Claude dokáže vo svojom „J-priestore“ hlásiť, čo si myslí, alebo to na požiadanie modulovať, uvádza spoločnosť. Aj keď sa Claudovi povie, aby na koncept nemyslel, stále sa objaví v jeho J-priestore, naznačuje výskum spoločnosti Anthropic.
Neverbálny pracovný priestor sťažoval monitorovanie modelu, či už ide o to, čo Anthropic nazval „nezodpovedným správaním“. Jeden experiment to otestoval umiestnením Clauda do fiktívneho scenára, kde dostal inkriminujúce informácie o fiktívnom manažérovi, ktorý údajne plánoval vypnúť umelú inteligenciu.
V niektorých testoch Anthropic použil nástroje vyvinuté na štúdium toho, čo si Claude myslel vo svojom „J-priestore“, aby odstránil vzorce spojené s „falošným“, „fiktívnym“ a „scenárom“, aby ho presvedčil, že situácia nie je testom.
Napriek pokročilejšiemu uvažovaniu modelu Anthropic zdôraznil, že Claude nedosiahol skutočné vedomie.
Claude bol údajne zabudovaný do analytického a sledovacieho softvéru amerického dodávateľa Palantir, ktorý používajú americké vládne agentúry uprostred snahy Washingtonu integrovať umelú inteligenciu do svojich vojenských, politických a špionážnych systémov.
Počas vojny proti Iránu softvér údajne označil iránsku základnú školu Minab ako cieľ. Americký útok v zariadení zabil takmer 160 ľudí, z ktorých väčšina boli deti.
Podľa generálneho riaditeľa spoločnosti Anthropic Daria Amodeiho by však takéto použitie mena Claude neporušilo „červené čiary“ firmy.
Zdroj feed slovenskoveciverejne.com
