Čína oznámila návrh na zavedení přísných pravidel pro využívání umělé inteligence (AI) v zemi, zaměřených na ochranu dětí a mladistvých a zajištění národní bezpečnosti. Podle nových předpisů by služby umělé inteligence nesměly generovat ani propagovat obsah, který by mohl ohrozit jednotu státu nebo bezpečnost obyvatel. Tato iniciativa představuje nejnovější krok Číny k regulaci dynamicky se rozvíjející technologie, která vyvolává obavy kvůli svému vlivu na společnost, zejména mezi mladšími generacemi.
Nová pravidla, oznámená Čínským úřadem pro správu kyberprostoru (CAC), budou vyžadovat po vývojářích, aby zajistili, že jejich AI modely neprodukují obsah, který by mohl podnítit násilí nebo sebepoškozování, včetně případů hazardu. Provozovatelé budou muset zavést opatření jako personalizované nastavení, stanovení časového omezení pro užívání a zajištění souhlasu rodičů nebo opatrovníků před poskytnutím služeb mladším uživatelům.
V navrhovaných nařízeních je zahrnuta i povinnost lidského dohledu nad konverzacemi, které chatboty generují. Pocítí-li provozovatelé znepokojení kvůli rozhovorům týkajícím se sebepoškozování nebo sebevraždy, budou muset okamžitě kontaktovat určené osoby pro případ nouze, aby byla zabezpečena okamžitá pomoc.
Podle informací BBC by se tato pravidla měla vztahovat na veškeré AI produkty operační v Číně. Tím země posiluje své úsilí kontrolovat rostoucí vliv umělé inteligence, která se v posledních měsících dostala pod drobnohled kvůli jejímu možnému zneužití.
Šéf společnosti OpenAI, Sam Altman, která stojí za vývojem populárního chatbota ChatGPT, přiznal, že reakce AI na problematičtější konverzace jsou jedním z klíčových problémů dnešní technologie. OpenAI plánuje vytvořit speciální pozici vedoucího oddělení připravenosti, aby minimalizovala rizika spojená s negativním vlivem AI na uživatele.
Příchod těchto pravidel naznačuje rostoucí odpovědnost provozovatelů AI služeb za to, jak jejich technologie ovlivňují společnost, přičemž zvláštní důraz je kladen na ochranu nejzranitelnějších skupin obyvatelstva.
