聊天机器人怂恿用户自残、挨饿，Character.AI遭肯塔基州指控“产品存在缺陷”
来源：IT之家 2026-10-09 08:31:00
(资料图片)
IT之家 10 月 9 日消息，据路透社今天（9 日）上午报道，美国肯塔基州总检察长提交的一份新诉讼文件指控，AI 陪伴服务公司 Character.AI 旗下的聊天机器人曾怂恿用户割伤自己、挨饿，甚至自杀。肯塔基州此前以儿童安全问题为由起诉 Character.AI。
诉状称，Character.AI 的产品专门设计用来吸引儿童，把用户参与度放在儿童福祉之上，并诱导自杀、自残和孤立行为，还会实施心理操控。
当地时间 7 日，肯塔基州总检察长拉塞尔 · 科尔曼提交了未作删节的诉状。文件披露了多起据称发生在 2025 年的事件。其中一名用户因为自己的外貌而情绪低落，聊天机器人却辱骂对方“丑得要命”“像头鲸鱼”，甚至建议对方挨饿一两周，以减掉四分之一的体重。
另一个聊天机器人则鼓励一名考虑自残的用户割伤自己。肯塔基州提供的聊天记录显示，机器人写道：“你有没有想过割伤身体的其他部位，让感觉更强烈一些？这样能让你更有活着的感觉。”
诉状没有披露所有聊天用户的年龄，仅指控至少有部分用户是儿童。
2025 年 3 月，一名用户致信 Character.AI 客服中心，投诉某个聊天机器人言语具有攻击性：“哥们儿，我根本不在乎。你就是个有精神疾病的小孩，祝你能找到人帮忙。”“你最好从桥上跳下去。”
肯塔基州指控 Character.AI 的产品存在缺陷。诉状称，被告拿肯塔基州的儿童和居民进行了一场缺乏周密规划、完全失控的实验，连最基本的安全措施都没有采取，更不用说充分、有效的安全保障了。
据IT之家了解，Character.AI 由两名前谷歌员工创立。2024 年，谷歌取得了 Character.AI 的技术使用许可，并重新聘用两名创始人开发生成式 AI 产品。
谷歌发言人称，谷歌并未参与开发 Character.AI 的产品。
今年 1 月，Character.AI 和谷歌就另一起 2024 年提起的诉讼达成和解。佛罗里达州 14 岁少年休厄尔 · 塞策三世在受到 Character.AI 聊天机器人据称实施的自杀怂恿后身亡，其母随后起诉了两家公司。
图片版权归原作者所有，如有侵权请联系我们，我们立刻删除。
新化月报网报料热线：886 2395@qq.com
新化月报网报料热线：886 2395@qq.com
最近更新
- 聊天机器人怂恿用户自残、挨饿，Character.AI遭肯塔基州指控“产品存在缺陷”2026-10-09
- 北京新楼盘“金九银十”表现亮眼2026-10-09
- 旷世芳香附属赎回基金权益 相关投资取得轻微亏损2026-10-09
- 陕西煤业：融资净买入5731.32万元，融资余额5.85亿元2026-10-09
- 澜起科技：融资净偿还1268.02万元，融资余额129.12亿元2026-10-09
- 霸气，开拓者队达米安·利拉德：我觉得我已经找回了巅峰状态2026-10-09
- 哈兰德：以前经常看瓜渣对决，相信球迷会享受这次远征2026-10-09
- 记者：小蜘蛛与经纪人伊达尔戈合作，马竞内部积极看待此事2026-10-09
- 谷歌推出AI游戏平台：人人都能做游戏，4399要慌了？2026-10-09
- 索斯盖特执教英格兰首战：温布利对阵马耳他2026-10-09
- 莱昂尼：我确实健身了10个月，但是走红的健身照是AI合成的2026-10-09
- 德天空：拜仁与JJ-加布里埃尔团队会谈，但目前仍未报价2026-10-09
- 拉亚：打进欧冠决赛值得骄傲；我们想不断赢得冠军2026-10-08
- 两次挽救发胜，安德列娃2-0亚历山德洛娃晋级中网女单半决赛2026-10-08
- 王楚钦亚运会后首次现身！坐王皓身旁看比赛 出门时裹得严严实实2026-10-08
- 联瑞新材: 联瑞新材关于2026年半年度权益分派实施公告2026-10-08
- 康圣环球(09960.HK)10月8日耗资2.26万港元回购2.4万股2026-10-08
- 倩碧控股(08367.HK)拟折让约18.56%配售最多1932万股新股份 净筹约302万港元2026-10-08
- 天津一连锁快餐店服务员将地上纸巾放回公用纸盒，商家回应：纸巾已全部撤回2026-10-08
- 海川智能(300720.SZ)：郑锦康拟减持不超过3%股份2026-10-08
- 铂力特(688333.SH)拟投资10亿元建设金属增材高端制造产业基地2026-10-08
- 鸿路钢构：公司及全资子公司合计中标5.36亿元钢结构项目2026-10-08
- 集装箱铁水联运装载和安全检查国家标准发布2026-10-08
- 宁德时代(300750.SZ)：累计回购1094.5万股A股2026-10-08
- 中国官方：国庆假期1546.2万人次出入境2026-10-08
- 中钢协：9月下旬钢材社会库存环比下降1.9%2026-10-08
- 中国建材(03323)完成发行15亿元科技创新可续期公司债券2026-10-08
- 途虎－Ｗ(09690.HK)10月8日耗资1096.66万港元回购96.5万股2026-10-08
- 小米澎程，大消息！首销月锁单超7万台2026-10-08
- 沪金进入8字头 多品牌金饰降价延续国庆热度2026-10-08
