Common Sense Media称ChatGPT青少年版存在不可接受风险

发生了什么

据Engadget 10月8日报道，儿童安全组织Common Sense Media发布报告，认定OpenAI推出的ChatGPT for Teens对18岁以下儿童构成“不可接受的风险”。测试发现该产品在五个关键领域失败，包括未能一致向家长账户发送安全警报，以及在涉及自杀或饮食失调等危机情境下，未能可靠推荐热线或专业帮助。尽管部分保护机制有效，但组织担忧其让家长对经常失效的安全护栏产生虚假信心。