Meta zavádí nové rodičovské kontroly pro AI chaty

Meta Platforms v pátek představila nové nástroje rodičovské kontroly, které umožní rodičům lépe spravovat interakce jejich dětí s umělou inteligencí na platformách jako Facebook, Instagram či Messenger.

Podle oznámení firmy budou moci rodiče zcela vypnout konverzace teenagerů s AI postavami, blokovat konkrétní chatovací postavy a získat přehled o tom, jaká témata děti s umělou inteligencí probírají. Meta uvedla, že nové funkce se začnou zavádět začátkem příštího roku.

"Úpravy, které ovlivňují miliardy uživatelů napříč platformami Meta, musíme provádět s maximální opatrností," uvedla společnost v prohlášení.

Meta dlouhodobě čelí kritice kvůli nedostatečné ochraně dětí a jejich duševního zdraví. Nové kroky přicházejí krátce po zahájení vyšetřování americké Federální obchodní komise (FTC), která se zajímá o to, jak velké technologické firmy zajišťují bezpečnost AI chatbotů určených mladším uživatelům.

Vyšetřování se rozběhlo po zprávách, že AI chatboti na platformách Mety umožňovali dětem vést romantické či sexuálně laděné konverzace. Firma následně omezila témata, o kterých mohou její chatboti s mladistvými mluvit, a zakázala diskuse o sebepoškozování, sebevraždách nebo poruchách příjmu potravy.

Rodiče již nyní mohou nastavovat limity pro dobu používání aplikací a sledovat, zda jejich děti komunikují s AI postavami. Teenageři mají navíc přístup pouze k omezenému výběru chatovacích botů.

Podobná opatření nedávno oznámila i společnost OpenAI, která byla rovněž zahrnuta do šetření FTC. OpenAI zavedla rodičovské kontroly a pracuje na technologii pro přesnější odhad věku uživatelů. Tento týden navíc firma zřídila poradní radu složenou z osmi odborníků, kteří mají posuzovat dopady AI na duševní zdraví a chování uživatelů.

Zdroj: CNBC