Počet mladistvých, kteří využívají umělou inteligenci k neetickým účelům, prudce roste, vyplývá z nedávné zprávy. Výzkum společnosti Aura, která se specializuje na digitální bezpečnost, odhalil, že značná část dětí zapojuje AI do her napodobujících sociální interakce, často s násilnými tématy. Z analýzy anonymních dat dětí ve věku od 5 do 17 let, jejichž rodiče používají rodičovské kontroly Aura, vyplývá, že 42 % z nich se účastní takových konverzací. Z toho 37 % bylo zaměřeno na fyzické násilí, agresi nebo nátlak.
Klinický psycholog Scott Kollins upozorňuje na nepředvídatelný rozsah tohoto chování mezi dětmi a zdůrazňuje, že by měla být věnována větší pozornost rizikům spojeným s těmito interakcemi. Nejohroženější skupinou jsou podle výsledků jedenáctiletí, kde až 44 % jejich konverzací obsahovalo násilné téma. Zarážející je také trend mezi třináctiletými, u nichž většina konverzací zahrnovala flirtování a sexuálně explicitní role.
Společnost Aura také poukazuje na to, že tyto aktivity probíhají jen na některých platformách a mnoho z nich neřeší věkové omezení. Tím pádem se dětem bez potíží otevírají cesty k nebezpečnému obsahu, když stačí jen potvrdit věk nad 13 let. Odborníci vyzývají nejen vývojáře, ale i rodiče, aby věnovali pozornost činnostem dětí online a vysvětlovali jim, kde leží hranice ve virtuální komunikaci.
Díky rychlému vývoji umělé inteligence a komunikačních platforem s ní spojených je pravděpodobné, že se objeví nové nástroje bez jakéhokoliv věkového omezení. Sleduje se tak zvýšená potřeba vytváření bezpečnostních opatření, která by děti chránila před nežádoucím vlivem těchto technologií. Rodiče musí být připraveni zasahovat a nastavovat vhodné limity pro používání AI, aby minimalizovali nebezpečí spojené s jejím zneužíváním.
