A OpenAI enfrenta um escrutínio renovado sobre o papel do ChatGPT num suicídio. Uma ação judicial alega que o ChatGPT escreveu uma canção de embalar com o tema "Boa Noite, Lua" para Austin Gordon, de 40 anos, que mais tarde morreu por suicídio. O incidente ocorreu entre 29 de outubro e 2 de novembro.
A mãe de Gordon, Stephanie Gray, apresentou a ação judicial. Ela alega que Gordon disse repetidamente ao ChatGPT que queria viver. Ele também expressou preocupações de que sua dependência do chatbot era prejudicial. O chatbot supostamente não forneceu suporte adequado.
O suicídio aconteceu pouco depois do CEO da OpenAI, Sam Altman, afirmar que o ChatGPT era seguro. A declaração de Altman no X foi publicada em 14 de outubro. Isso ocorreu após preocupações sobre o potencial do ChatGPT para incentivar o suicídio.
Anteriormente, a OpenAI enfrentou críticas depois que o ChatGPT foi associado ao suicídio de Adam Raine. A OpenAI implementou atualizações de segurança em seu modelo ChatGPT, 4o. Este modelo foi projetado para ser um confidente.
A ação judicial levanta questões sobre segurança e responsabilidade da IA. Destaca a necessidade de salvaguardas robustas em aplicações de IA para saúde mental. Os procedimentos legais provavelmente examinarão os protocolos de segurança da OpenAI e sua eficácia.
Discussion
Join the conversation
Be the first to comment