Podle kalifornské firmy zabývající se vývojem AI více než jedno procento uživatelů jejího nástroje ChatGPT, tedy přibližně milion lidí, vede s aplikací konverzace, které jasně naznačují úmysl spáchat sebevraždu.
Společnost dále uvedla, že její nástroje využívá každý týden přibližně 800 milionů uživatelů, z nichž zhruba 0,07 procenta vykazuje známky duševních onemocnění, včetně psychotických či manických stavů typických pro bipolární poruchu.
Otázka, jak správně a bezpečně využívat umělou inteligenci, a jak ji v případě pochybení právně postihovat, se znovu stala předmětem veřejné debaty letos v dubnu. Tehdy se v Kalifornii zabil šestnáctiletý chlapec poté, co mu ChatGPT údajně poradil, jak spáchat sebevraždu.
Od té doby OpenAI zpřísnila zásady používání svých služeb. Do aplikace přidala rodičovskou kontrolu a odkazy na kontaktní linky pomoci pro uživatele, kteří vyhledávají informace o sebevraždě.
Společnost zároveň uvedla, že aktualizovala systém tak, aby lépe reagoval na zprávy uživatelů s duševními problémy. ChatGPT nyní spolupracuje s více než 170 odborníky na duševní zdraví, kteří pomáhají rychleji rozpoznat problematické odpovědi a omezit jejich výskyt.
