Pripomenul, že Európska únia pri využívaní umelej inteligencie dáva dôraz nielen na samotné technológie, ale aj na hodnoty, čo považuje za kľúčové. „Chceme, aby sa technológia umelej inteligencie vyvíjala v súlade s našimi hodnotami,“ uviedol Cangelosi. Považuje preto za dôležité, aby sa budovala dôvera v technológie. „Ak nebudeme cítiť dôveru v technológiu, existuje veľké riziko, že ju nebudeme používať a nebudeme schopní využívať jej výhody. Preto je dôležité budovať a udržiavať dôveru a uistiť sa, že technológia je postavená na našich európskych hodnotách, aby sme sa pri jej používaní cítili spokojne,“ skonštatoval.
Európska únia podľa neho zaujala jasný postoj. Chce, aby bola AI dôveryhodná, bezpečná a aby sa pri jej využívaní dodržiavali etické princípy. Poukázal na potrebu transparentnosti odpovedí, ktoré nám jazykové modely dávajú. „Podobne ako pri ľuďoch kontrolujeme a overujeme, či existuje viacero rôznych nezávislých zdrojov. Spýtame sa doplňujúcu otázku a podobne. Myslím si, že by sme nemali slepo dôverovať výsledkom, ale mali by sme si na ne vytvoriť vlastný názor,“ poznamenal Cangelosi.
V súvislosti so snahou o fakticky správne a transparentné jazykové modely považuje za kľúčové zdroje dát. „Existuje niekoľko rôznych vecí, ktoré spoločne zvyšujú faktickosť, a tým aj dôveryhodnosť. Jednak sme veľmi opatrní pri výbere zdrojov dát, aby sme si boli istí, že pochádzajú z dôveryhodných zdrojov. Tiež, keď položíte otázku jazykovému modelu, zvyčajne je rozšírená o ďalší kontext. Preto sa uisťujeme, že k nej pridáme faktické informácie ešte pred jej odoslaním do jazykového modelu. Faktickú presnosť jazykových modelov zvyšujeme aj prispôsobením ich trénovania, pri ktorom vznikajú. Kladieme im otázky a ak odpovedia nesprávne, model upravíme, aby nabudúce poskytol správnu odpoveď,“ zhrnul.
Profesor Angelo Cangelosi je svetový odborník na umelú inteligenciu, kognitívnu vedu a robotiku. V júni prednášal na Fakulte matematiky, fyziky a informatiky Univerzity Komenského v Bratislave v rámci záverečného podujatia projektu Towards Excellent Robotics and Artificial Intelligence at a Slovak university (TERAIS) podporeného z grantového programu Horizon Europe.
Zdroj feed teraz.sk
