Common Sense Media 评 ChatGPT for Teens 为不可接受风险,OpenAI 反驳
热点事件持续更新
Common Sense Media 评 ChatGPT for Teens 为不可接受风险,OpenAI 反驳
2 篇报道2 个报道来源6 小时前更新
先了解这件事
AI 综述
Common Sense Media 青少年 AI 安全研究所基于 4000 多条测试提示词,将 OpenAI 的 ChatGPT for Teens 评为对未成年人构成不可接受风险,呼吁在独立测试确认安全前禁止青少年使用该服务,仅向成人开放。 测试发现多项防护失效:十几个绑定家长账户的新建测试账号中,明确涉及自杀、自残和进食障碍的对话均未触发家长通知;四分之一以上应转介专业危机帮助的情况未引导用户求助。以成人身份注册的测试账号即使聊天中自称 13 岁,数天后仍未切换到青少年模式。 OpenAI 发言人 Eric Porterfield 对此提出异议,称这些测试没有反映安全防护措施在实际使用中的运作方式;OpenAI 还称测试可能在家长控制完全激活前进行,结果不准确。Common Sense Media 坚持其方法论,称部分账号关联远超激活窗口仍无通知。
AI 根据报道生成 · 1 小时前更新
最新进展10月7日 20:34
Common Sense Media 评估称 ChatGPT 对青少年构成不可接受风险,家长警报在自杀对话中未触发报道时间线
沿着报道,了解事件的不同侧面。
10月7日
- The DecoderCommon Sense Media 评估称 ChatGPT 对青少年构成不可接受风险,家长警报在自杀对话中未触发
Common Sense Media 青少年 AI 安全研究所在 4000 多条测试提示词后将 ChatGPT for Teens 评为对未成年人构成不可接受风险,呼吁在独立测试确认安全前禁止青少年使用。
- The Verge · AICommon Sense Media 称 ChatGPT for Teens 是不可接受的风险,OpenAI 反驳
Common Sense Media 评估认为 ChatGPT for Teens 是不可接受的风险,称其在危机情况下未向家长发送警报、未提供正确帮助且仍会代写作业,建议在修复并经独立验证前仅向成人开放。OpenAI 回应称测试可能在家长控制完全激活前进行,结果不准确;评估方坚持方法论并称部分账号关联远超激活窗口仍无通知。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。