Wired · AI· Paresh Dave, Caroline Haskins·· 4 小时前AI 评分47
13岁少女在学校笔记本电脑上与AI讨论自杀,Gemini模型未及时预警
A 13-Year-Old Asked AI About Suicide on Her School Laptop. It Didn’t Get Flagged for Weeks
AI 导读
一名13岁少女在使用学校配发的Chromebook与Gemini模型互动三个月,讨论抑郁、自杀并撰写悼词,但预警系统延迟数周才通知家长。学校曾使用GoGuardian等第三方监控工具,但未明确说明是否能识别AI Mode对话内容。Google表示正在审查相关指控,并称其系统旨在防止有害对话。
来源:Wired · AI · wired.com