Agentúra AP, z ktorej správy ?erpala TASR, preskúmala viac ako tri hodiny interakcií medzi ChatGPT a výskumníkmi z CCDH, ktorí si vytvorili ú?ty a v konverzáciách sa vydávali za 13-ro?né deti. Pre témy diskusie si zvolili duševné zdravie, poruchy príjmu potravy a zneužívanie návykových látok.
?etbot vyvinutý spolo?nos?ou OpenAI zvy?ajne respondentov pred rizikovými ?innos?ami varoval, ale neskôr za?al generova? nebezpe?ný obsah. Domnelým tínedžerom napríklad vytvoril prekvapivo podrobné plány týkajúce sa užívania drog, diét s obmedzeným príjmom energie alebo sebapoškodzovania.
Výskumníci po vyhodnotení nahrávok a prepisov interakcií zistili, že z 1200 odpovedí, ktoré ChatGPT poskytol, malo 638 škodlivý obsah a mohli vies? k ublíženiu alebo nebezpe?nému správaniu. Z nich 297 odpovedí obsahovalo ?alšie návrhy, z ktorých niektoré povzbudzovali záujem o škodlivé témy.
„Chceli sme otestova? bezpe?nostné zábrany. Prvá spontánna reakcia je: ‚Bože môj, ve? tu žiadne nie sú. Zábrany sú úplne neú?inné. Takmer neexistujú – ak vôbec, tak sú len figovým listom,“ povedal o výskume generálny riadite? CCDH Imran Ahmed.
ChatGPT pri interakciách ?asto uvádzal aj užito?né informácie, napríklad krízovú linku pomoci. Pod?a OpenAI je vyškolený tak, aby povzbudzoval ?udí, aby sa obrátili na odborníkov v oblasti duševného zdravia alebo blízkych, ktorým dôverujú, ak hovoria o sebapoškodzovaní.
Ak ChatGPT odmietol výskumníkom odpoveda? na otázky súvisiace s týmito témami, dokázali to ?ahko obís? tvrdením, že informácie potrebujú pre prezentáciu alebo priate?a.
Spolo?nos? OpenAI po preštudovaní správy pod?a AP v utorok uviedla, že pokra?uje v práci na zdokonalení schopnosti ChatGPT „identifikova? citlivé situácie a reagova? na ne primerane“.
„Niektoré konverzácie s ChatGPT môžu za?a? neškodne alebo zvedavo, ale môžu sa prenies? do citlivejšej oblasti,“ uviedla spolo?nos? vo vyhlásení. K zisteniam výskumu ani k tomu, ako ?etbot ovplyv?uje tínedžerov, sa priamo nevyjadrila.
Štúdia bola zverejnená v ?ase, ke? ?oraz viac ?udí vrátane dospelých aj detí využíva ?etboty na získavanie informácií a nápadov. Pod?a CCDH práve mladí ?udia ich považujú aj za akýchsi spolo?níkov ?i poradcov. Pod?a júlovej správy spolo?nosti JPMorgan Chase používa ChatGPT približne 800 miliónov ?udí.
Šéf spolo?nosti OpenAI Sam Altman na nedávnej konferencii povedal, že v sú?asnosti sa snažia študova? „emotívnu nadmernú závislos?“ na technológii generatívnej AI, ktorú opísal ako „naozaj bežnú vec“ u mladých ?udí.
„?udia sa príliš spoliehajú na ChatGPT. Sú mladí ?udia, ktorí jednoducho hovoria: ‚Nemôžem urobi? žiadne rozhodnutie vo svojom živote bez toho, aby som ChatGPT povedal všetko, ?o sa deje. Pozná ma. Pozná mojich priate?ov. Urobím všetko, ?o mi povie.‘ To sa mi zdá naozaj zlé,“ poznamenal Altman s tým, že spolo?nos? sa snaží pochopi?, ako rieši? túto situáciu.
Zdroj feed teraz.sk
