O AI sa šíri mnoho hoaxov, technológie sú bezpečné

Bratislava 15. júna (TASR) – O umelej inteligencii (AI) sa šíri veľké množstvo hoaxov. „Ani neviem, ktorý je najväčší. Ľudia majú strach z technológií, niektorí sa ich boja. Môžeme vzdelávať, aby sme ukázali, že technológie sú bezpečné a zároveň sa snažiť ich robiť ešte bezpečnejšie ako dnes. To je asi jediné, čo môžeme urobiť,“ povedal v rozhovore pre TASR šéf nemeckého centra pre výskum umelej inteligencie (DFKI) Philipp Slusallek, ktorý je expertom na dôveryhodnú AI.

Poukázal na to, že v prípade novej technológie je dôležité, aby jej ľudia mohli dôverovať, inak ju nebudú používať. „V Nemecku máme veľa malých a stredných firiem, ktoré, ak do svojho produktu pridajú umelú inteligenciu, sú lídrami na trhu vo svojom odbore. Potom ho dodajú napríklad do Indie, a tam im produkt nefunguje a čelia problémom. Potrebujú technológiu, ktorej môžu skutočne dôverovať. Problémom je, že pojem dôveryhodný používajú všetci a niekedy sa stáva takmer bezvýznamným,“ skonštatoval pre TASR Slusallek.

Dôveryhodná umelá inteligencia je podľa jeho slov taká, ktorej sa dá dôverovať. „Ide o umelú inteligenciu, pri ktorej môžete poskytnúť záruky funkčnosti, férovosti alebo robustnosti, ktorú systém ponúka, teda skutočné dôkazy, že systému môžete dôverovať. Snažíme sa dostať o krok ďalej, než je všeobecná dôveryhodnosť, ale celá myšlienka dôveryhodnosti je rozhodujúca,“ uviedol.

Veľkou témou v tejto oblasti sú autonómne autá. „Ak dieťa vbehne pod auto chceme, aby ho umelá inteligencia čo najviac chránila. Nemáme však žiadne dáta, pretože nerobíme experimenty s deťmi, takže umelú inteligenciu nemôžeme trénovať pomocou reálnych údajov. Preto modelujeme, ako sa chodci vrátane detí pohybujú a ako sa správajú v dopravných scenároch. Potom môžeme simulovať, ako dieťa vbehne pod auto v počítači. Dáta sa potom použijú nielen na trénovanie umelej inteligencie, ale čo je dôležitejšie, aj na jej validáciu,“ priblížil.

Momentálne nie je dostatok dôkazov, že je AI pri rozhodnutiach, ako je riadenie autonómnych vozidiel, úplne bezpečná, z čoho podľa Slusalleka pramení veľa strachu. „Ak sa ma niekto spýta, musím povedať nie, nemôžem zaručiť, že nerobí chyby. A preto potrebujeme dôkazy. Vieme, že ľudí nemôžeme veľmi zlepšiť a robia chyby. V prípade stroja to je, ale, iný príbeh,“ skonštatoval.

Poznamenal, že technológie môžeme vždy vylepšiť, a preto sa očakáva, že umelá inteligencia bude bezpečnejšia ako ľudskí vodiči. „Ale len byť lepšia ako ľudský vodič nestačí, očakávame, že bude oveľa lepšia. V tejto chvíli nevieme spoľahlivo, aké dobré sú autonómne systémy. Takže v tejto oblasti sa musíme zlepšiť,“ uzavrel.

Odborníci z DFKI budú aj s ďalšími európskymi expertmi spolupracovať so slovenským Kempelenovým inštitútom inteligentných technológií (KInIT) v projekte lorAI – Low Resource AI podporenom v grantovom programe Horizon Europe. Šesťročný projekt má inštitút pozdvihnúť na centrum excelentnosti v oblasti AI, prepojiť akademickú sféru s biznisom a priniesť pokrok vo vývoji jazykových modelov pre slovenčinu.