Dieťa, ktoré sa rozpráva s chatbotom o svojich problémoch, zveruje mu tajomstvá a vracia sa k nemu každý deň. Aj takáto situácia je jedným z dôvodov, prečo chce Európska komisia výrazne zmeniť pravidlá pre deti na internete.
Európska komisia 17. septembra predstavila návrh nových pravidiel označovaných ako EU KIDS Act. Ak prejde legislatívnym procesom, deti v celej EÚ čakajú prísnejšie pravidlá pre sociálne siete, online hry, videoplatformy – ale aj pre AI chatboty a takzvaných AI spoločníkov.
Chatbot ako kamarát
AI už dnes nemusí byť iba nástrojom, ktorý odpovie na otázku alebo pomôže s domácou úlohou. Niektoré chatboty sú navrhnuté tak, aby s používateľom viedli dlhý rozhovor a pôsobili osobne či empaticky.
Komisia preto navrhuje, aby boli AI chatboty a AI spoločníci pre maloletých predvolene vypnutí. Zároveň nemajú byť navrhnutí tak, aby u detí vytvárali emocionálnu závislosť.
Nejde teda iba o zákaz umelej inteligencie pre deti. Dôležité je to, ako sa AI k dieťaťu správa. Ak ho má technológia motivovať k tomu, aby sa stále vracalo, vytvárať pocit, že chatbot mu rozumie viac než ľudia okolo neho, alebo podporovať citovú väzbu, podľa návrhu by takýto spôsob fungovania nemal byť prípustný.
Sociálne siete až od 13? Nie celkom
Návrh zavádza postupný systém. Deti do 13 rokov by nemali mať prístup k sociálnym sieťam. Naďalej by však mohli používať detské videoplatformy prostredníctvom účtu spravovaného rodičom alebo opatrovníkom.
Vo veku 13 až 14 rokov by mohli sociálne siete používať cez takzvaný „mini účet”, ktorý by spravoval rodič alebo opatrovník. Funkcie by mohli mať obmedzenia a čas používania by sa mal nastaviť na maximálne jednu hodinu denne.
Od 15 rokov by si už mladý človek mohol vytvoriť a spravovať vlastný účet.
Mali by mať deti možnosť vytvoriť si AI kamaráta? Najlepšieho kamaráta? Zapojte sa do ankety
Koniec nekonečného scrollovania?
Ochrana sa však nemá týkať iba veku. Komisia navrhuje, aby online služby používané maloletými obmedzili funkcie, ktoré podporujú nadmerné používanie. Patrí sem napríklad nekonečné scrollovanie, rôzne odmeňovacie mechanizmy či push notifikácie počas nočného odpočinku.
Profily detí majú byť predvolene súkromné a služby nemajú umožňovať nevyžiadaný kontakt od cudzích ľudí.
Ak to zhrnieme, cieľom nie je iba povedať dieťaťu „nesmieš tam byť”. Komisia chce meniť aj samotný dizajn služieb tak, aby deti čo najmenej lákali na ďalšiu hodinu pri obrazovke.
Tentoraz majú dokazovať bezpečnosť firmy
Zaujímavou zmenou je aj presun zodpovednosti. Pri veľmi veľkých online platformách chce komisia obrátiť doterajšiu logiku. Namiesto toho, aby regulátor najskôr dokazoval, že služba deťom škodí, poskytovatelia budú musieť preukázať, že ich služby sú pre deti bezpečné a navrhnuté s ohľadom na ich blaho.
Súčasťou návrhu je aj overovanie veku. Komisia pritom uvádza, že používané riešenia majú chrániť súkromie používateľov. Ako príklad spomína európsku aplikáciu na overenie veku, ktorá nemá uchovávať doklady totožnosti ani biometrické údaje.
Zatiaľ iba návrh
EU KIDS Act ešte nie je platným zákonom. Návrh teraz poputuje do Európskeho parlamentu a Rady EÚ, ktoré budú rokovať o jeho konečnej podobe.
V každom prípade je však dôvod tohto návrhu úplne jasný: Ak si dieťa môže vytvoriť vzťah s technológiou, ktorá je stále dostupná, nikdy sa neunaví a vždy odpovie, kde je hranica medzi užitočným nástrojom a umelým kamarátom? Práve na túto otázku sa budú musieť rodičia, technológie aj zákonodarcovia v najbližších rokoch pozerať o čosi pozornejšie.