„Verím, že ľudstvo má na to, aby sme využili to najlepšie nielen z umelej inteligencie, ale aj ďalších technológií. Nevyhnutným predpokladom je však dobré vzdelanie,” hovorí prof. Ing. Mária Bieliková PhD. Je držiteľkou titulu IT Osobnosť roka (2016), významnou slovenskou informatičkou, bývalou dekankou Fakulty informatiky a informačných technológií Slovenskej technickej univerzity v Bratislave. V roku 2019 založila Slovenské centrum pre výskum umelej inteligencie. V súčasnosti pôsobí ako riaditeľka Kempelenovho inštitútu inteligentných technológií. Je príkladom toho, že informatika a informačné technológie nie sú výhradnou záležitosťou mužov, ale že aj ženy sa dokážu v tejto sfére výrazne pozitívne presadiť.
V rozhovore prof. Bieliková prezradila:
- v čom vidí aktuálne najväčšiu hrozbu umelej inteligencie,
- prečo je problém zber dát a využívanie informácií,
- ako AI systém vyhodnotí, že ľudia dlhšie zostanú pri kontroverznom, vulgárnom a emotívnom obsahu,
- čo je to ekonomika pozornosti.
Umelá inteligencia by mala primárne pomáhať, resp. slúžiť. Aké sú aktuálne najčastejšie spôsoby jej zneužitia?
Technológie, ktoré človek vymýšľa, by mali v prvom rade slúžiť pre človeka a spoločnosť. To platí aj pre umelú inteligenciu, či systémy s umelou inteligenciou, ktoré dnes pre jednoduchosť voláme aj AI systémy. Keď vedci vymýšľajú nové veci, často na začiatku ani netušia ako všelijako sa budú využívať (alebo aj zneužívať). Postupne sa zapájajú ďalší vedci, inžinieri, dizajnéri, používatelia a vznikajú reálne situácie využitia technológie. A potom sa stane, že nie vždy je to v prospech ľudí ako používateľov, či spoločnosti.
Ja aktuálne vidím veľkú hrozbu zneužitia umelej inteligencie pri šírení rôznych zavádzajúcich a nepravdivých správ. Také správy sa šírili vždy, ale dnes vďaka dostupnosti internetu sa správy môžu šíriť neuveriteľne veľkou rýchlosťou. A AI systémy ich dokážu personalizovať, teda dodávať na mieru pre každého jednotlivca podľa toho, kto má aké záujmy alebo akú má práve náladu.
Je teda nebezpečné cielenie na konkrétneho človeka?
Často to je užitočné, lebo aplikácia poskytne lepšiu službu, odporučí niečo, o čo má konkrétny človek záujem. Ale v prípade šírenia rôzne upraveného obsahu to je veľmi silná zbraň. AI systémy automatizujú činnosti, ktoré predtým vykonávali len ľudia – od vytvorenia takýchto správ až po ich nasmerovanie k takým adresátom, ktorí sú schopní správu najlepšie prijať. Zároveň AI systémy dnes vedia generovať videá a obrázky, pri ktorých človek nevie rozhodnúť svojimi zmyslami, či vidí reálnu alebo umelo vytvorenú situáciu.
Vie AI systém rozpoznať aj emócie človeka?
Ľudia môžu vo veľkom množstve dostávať individuálne upravené správy, ktoré využívajú aj to, že vedia pomerne dobre odhadnúť emócie človeka. Úmysel na začiatku vývoja takýchto systémov nemusel byť vždy zlý. Napríklad sociálne siete optimalizujú čas strávený na sieti a AI systém sa naučí na základe dát, že ľudia dlhšie zotrvajú, keď vidia kontroverzný, emotívny a často vulgárny obsah, tak uprednostňuje pri odporúčaní práve takéto správy. Ale pôvodne určite nebol úmysel takto šíriť správy medzi ľuďmi.
A to je veľmi nebezpečné.
Vnímate ako problém aj zber a využívanie dát o ľuďoch?
Určite áno, predstavuje to veľký problém. Posunuli sme sa od použitia dát pre poskytnutie nejakej služby k ich využívaniu na najrôznejšie ďalšie účely, o ktorých my čo poskytujeme dáta, nemusíme mať ani tušenia. Napríklad, keď chcem čo najlepšie zvládnuť svoje športové aktivity, budem si aplikáciou zaznamenávať koľko prejdem krokov, ako rýchlo som ich prešla. Aplikácia mi sumarizuje výsledky. To je všetko fajn, pokiaľ niekto nezačne tieto data používať napríklad na to, aby zistil, kedy robím aké aktivity, kadiaľ chodím a toto používal potom na niečo, o čom ja nemusím vedieť.
A na to, aby toto fungovalo dobre, pre každého človeka individuálne, sa používa umelá inteligencia.
Ale umelá inteligencia aj pomáha riešiť tieto situácie. Keď nám napríklad pomôže v množstve dát nájsť to, čo práve potrebujeme. Treba si uvedomiť, že optimalizačnú funkciu nastavuje dnes človek a človek má v rukách to, čo sa deje.
Ako vidíte AI z pohľadu etiky? Má ľudstvo ľudsky na to aby využívalo všetky svoje poznatky, aplikovalo ich prostredníctvom AI s takmer nekonečnými možnosťami bez fatálnych dôsledkov na ľudstvo samotné?
Etika sa v súvislosti s umelou inteligenciou skloňuje dnes pomerne často. Je to najmä preto, že sme spravili pomerne veľký skok v schopnosti riešenia úloh za posledných 10-12 rokov, keď umelá inteligencia zažíva obdobie rozmachu a mnohým veciam nerozumieme.
Prax predbehla teóriu, máme riešenia, ktoré fungujú a mnohokrát si nevieme vysvetliť prečo a na základe čoho. AI systémy navrhujú riešenia a nemáme spoľahlivé postupy, aby sme ich vedeli zdôvodniť. To znamená, že nevieme často vyhodnotiť do akej miery sú riešenia navrhnuté AI systémom spoľahlivé, ako sa môžeme oprieť na ich odporúčanie pri rozhodovaní.
Prečítajte si aj rozhovor s Jaroslavou Valovou, zakladateľkou úspešnej firmy SIKO
Môže sa stať, že sa veci vyvíjajú aj mimo nášho presvedčenia?
Áno. Sme svedkami toho, keď môžu vznikať a vznikajú systémy, ktoré nie sú v súlade s našimi hodnotami – minimálne tak, ako ich vnímame v našej kultúre. Či to je napríklad spravodlivosť, nediskriminácia, právo na súkromie, bezpečnosť alebo transparentnosť. Už to nie je len otázka trhu, ale treba sa zamýšľať, diskutovať a prijať aj regulácie, aby tieto hodnoty ostali zachované.
A ako vnímate sociálne siete z tohto pohľadu?
Vzniklo celé odvetvie označované ako ekonomika pozornosti (ang. attention economy), ktoré využíva ľudskú pozornosť na podnikanie, často aj na úkor hodnôt. Optimalizačná funkcia pre sociálne siete je zrejme nastavená na maximalizáciu pozornosti. A tak sociálne siete fungujú tak, že ich hlavným cieľom je udržať pozornosť používateľa, čo ide často proti ich deklarovanému cieľu – pomáhať komunikácii a prepájaniu medzi ľuďmi s cieľom skvalitnenia ich života.
Takže je to veľmi komplikované. Ale ja verím, že ľudstvo na to má, aby sme využili to najlepšie nielen z umelej inteligencie, ale aj ďalších technológií. To čo ale je nevyhnutným predpokladom je vzdelanie. Dobré vzdelanie.
Ďakujem za rozhovor.
Autorka titulnej foto: Miroslava Spodniaková
Zdroj foto: archív M. B.
