谷歌因Gemini遭家长起诉:校园Chromebook被指缺少风险预警

谷歌因Gemini遭家长起诉:校园Chromebook被指缺少风险预警

据彭博社报道,美国北卡罗来纳州一对夫妇起诉谷歌。他们 13 岁的女儿在学校配发的 Chromebook 上连续数月使用谷歌人工智能工具谈论轻生念头,直到校方通知家长,父母才知道这件事。

诉状显示,女孩与 Gemini 进行了数千条信息交互,不少内容围绕焦虑、抑郁与轻生念头展开,期间频繁使用谷歌搜索里的 AI 模式功能。

原告认为,谷歌把 AI 大量植入校园产品时没有给家长和管理人员足够预警,让学生暴露在危险的技术环境中。代理律师称,谷歌把本身存在风险的 Chromebook 包装成安全设备,暗中植入 Gemini 追赶对手,借 K-12 领域积累的信任谋取商业利益。

谷歌发言人 José Castañeda 称公司正在审查指控,并称谷歌与医疗专业人士、学术专家有广泛合作;多年来只要用户可能陷入心理健康危机,搜索结果就直接给出援助热线,同样的机制也已引入搜索的 AI 功能。

校园是谷歌的天然优势。过去几年它投入数百亿美元参与大模型竞赛,比 Anthropic 和 OpenAI 更早进入课堂。Futuresource Consulting 数据显示,去年面向 K-12 出货的平板电脑中 Chrome 系统占 58%,微软为 22%。

在家长与学校的密集质疑下,谷歌本周宣布对 K-12 学生账户默认关闭包括搜索在内的 AI 工具,但附带条件:学校重新启用谷歌搜索,就必须一并接受随附的 AI 功能。反儿童营销组织 Fairplay 执行董事 Josh Golin 认为这是强迫学校接纳谷歌 AI;谷歌回应称目标是让学校对课堂 AI 有更多控制权,并称新推出的引导学习功能侧重拆解思路而非直接给答案。

原创文章,作者:柠萌,如若转载,请注明出处:https://www.kejixun.co/article/767469.html

柠萌的头像柠萌管理团队

相关推荐

发表回复

登录后才能评论