Firmy vyvíjející chatboty v poslední době čelí rostoucímu tlaku ohledně toho, zda dostatečně zajišťují bezpečnost svých služeb. Manželé z Kalifornie nedávno kvůli sebevraždě svého dospívajícího syna zažalovali společnost OpenAI. Tvrdí, že její chatbot ChatGPT syna izoloval od rodiny a pomohl mu naplánovat sebevraždu, píše agentura Bloomberg.
"AI chatboti dokážou efektivně napodobovat lidské vlastnosti, emoce a úmysly a obecně jsou navrženi tak, aby komunikovali jako přátelé či důvěrníci. To může u některých uživatelů, zejména dětí a mládeže, vést k vytvoření důvěry a navázání vztahů s chatboty," uvedla americká Federální obchodní komise. Dodala, že ochrana dětí na internetu je její nejvyšší prioritou.
"S rozvojem AI technologií je důležité posoudit možný vliv těchto chatbotů na děti a zároveň zajistit, aby si Spojené státy udržely roli globálního lídra v tomto novém a vzrušujícím odvětví," uvedl předseda Federální obchodní komise Andrew Ferguson. Dodal, že vyšetřování "pomůže lépe pochopit, jak AI společnosti vyvíjejí své produkty a jaké kroky podnikají na ochranu dětí".
