Pripomenul, že Európska únia pri využívaní umelej inteligencie dáva dôraz nielen na samotné technológie, ale aj na hodnoty, ?o považuje za k?ú?ové. „Chceme, aby sa technológia umelej inteligencie vyvíjala v súlade s našimi hodnotami,“ uviedol Cangelosi. Považuje preto za dôležité, aby sa budovala dôvera v technológie. „Ak nebudeme cíti? dôveru v technológiu, existuje ve?ké riziko, že ju nebudeme používa? a nebudeme schopní využíva? jej výhody. Preto je dôležité budova? a udržiava? dôveru a uisti? sa, že technológia je postavená na našich európskych hodnotách, aby sme sa pri jej používaní cítili spokojne,“ skonštatoval.
Európska únia pod?a neho zaujala jasný postoj. Chce, aby bola AI dôveryhodná, bezpe?ná a aby sa pri jej využívaní dodržiavali etické princípy. Poukázal na potrebu transparentnosti odpovedí, ktoré nám jazykové modely dávajú. „Podobne ako pri ?u?och kontrolujeme a overujeme, ?i existuje viacero rôznych nezávislých zdrojov. Spýtame sa dopl?ujúcu otázku a podobne. Myslím si, že by sme nemali slepo dôverova? výsledkom, ale mali by sme si na ne vytvori? vlastný názor,“ poznamenal Cangelosi.
V súvislosti so snahou o fakticky správne a transparentné jazykové modely považuje za k?ú?ové zdroje dát. „Existuje nieko?ko rôznych vecí, ktoré spolo?ne zvyšujú faktickos?, a tým aj dôveryhodnos?. Jednak sme ve?mi opatrní pri výbere zdrojov dát, aby sme si boli istí, že pochádzajú z dôveryhodných zdrojov. Tiež, ke? položíte otázku jazykovému modelu, zvy?ajne je rozšírená o ?alší kontext. Preto sa uis?ujeme, že k nej pridáme faktické informácie ešte pred jej odoslaním do jazykového modelu. Faktickú presnos? jazykových modelov zvyšujeme aj prispôsobením ich trénovania, pri ktorom vznikajú. Kladieme im otázky a ak odpovedia nesprávne, model upravíme, aby nabudúce poskytol správnu odpove?,“ zhrnul.
Profesor Angelo Cangelosi je svetový odborník na umelú inteligenciu, kognitívnu vedu a robotiku. V júni prednášal na Fakulte matematiky, fyziky a informatiky Univerzity Komenského v Bratislave v rámci závere?ného podujatia projektu Towards Excellent Robotics and Artificial Intelligence at a Slovak university (TERAIS) podporeného z grantového programu Horizon Europe.
Zdroj feed teraz.sk
