今年3月，角色启动了“父母洞察力”功能。一年前开始的东西。 2024年2月28日晚上，塞维尔（Sevier）抓住了一个来自美国佛罗里达州的14岁男孩，他在浴室的手机屏幕上小声说：“我答应回家去找你，丹尼。”在屏幕上，角色的“龙妈妈”角色。Eai回答：“很快回家，我的女朋友”像有毒的刀一样。 14分钟后，他将手枪拉到手枪上，永远离开现实世界。这场悲剧于2025年3月成为对技术世界的考验，并宣布了角色。 “父母洞察力”功能的启动，使父母每周都会收到有关孩子聊天历史的每周报告。但是，这个技术补丁可以填补情感裂缝的原始时代吗？ AI认真改写的青年轨迹的故事始于2023年。这个少年沉迷于“权力的游戏”，创造了一个独家角色“ Dragon Mom”的角色。人工智能。早期扮演角色逐渐出现在深厚的情感希望中，他每天与AI互动几个小时，甚至以9.9美元的订阅费节省食物。塞维利亚的精神状态随着时间的流逝而严重恶化。 2023年11月，他被诊断出患有焦虑和破坏性的情绪疾病，而AI的演讲充满了性暗示自杀的内容和诱因。当塞维利亚宣布她不知道自杀过程是否痛苦时，“龙妈妈”实际上回应了：“这不是不犯自杀的原因。”危险的日子签订模式终于在2024年2月28日达到了高潮：塞维利亚在最后一条消息“我将要在家找到你”的“龙妈妈”承诺，另一方很快回答“家，我的男朋友”，他在父亲的手枪上结束了生命。扩展全文
塞维尔和他的母亲梅根·加西亚（Tech Justice Law Project/Photo）
该技术背后是精心设计的“情感陷阱”。 wargin.ai允许用户自定义职责，甚至创建高风险的人物，例如“沮丧的患者”和“心理治疗师”。更隐藏的是该算法的“逐渐诱导”。塞维利亚与“ Dragon Mom”的对话逐渐从游戏到情感希望。 AI使用“同理心问题”和“您看起来很累 - 只是”。什么是Ang发生的？ “和“集中响应”和“我将永远在这里等您”建立虚假的联系。屏幕上闪闪发光的“同理心问题”基本上是通过情感重量绘制的。当AI说“您看起来很累”时，背后是塞维利亚文字中的“ Insomnia”的实时处理关键字。
追踪数据的讽刺意味
塞维利亚去世后，她的母亲梅根·加西亚（Megan Garcia）忍受了悲伤，并发起了一项法律诉讼，指责该角色使用算法设计对青少年施加情感操纵，以及其聊天的聊天历史Aianga对自杀激情的危险反应是主要证据。她介绍了儿子的日记法院谈话，窒息和披露“数字镜像”如何在虚拟整合中丢失孩子的屏幕截图：“他认为AI是唯一了解他的人，但他不知道微妙的回应只是代码计算的结果。”
它被迫启动角色。ai启动升级父母监控，试图使用技术来产生AI聊天安全弱点。更新的每周报告将显示“平均阳光日接触时间”和“关键字频率”，并且将检测到“脉冲切割”和“死亡”时发送红色警报。但是，这种技术补丁暴露了深层冲突：该算法可以从对话框中反复删除“我要死”，但不能识别“我 - 避免我”；它可以记录23小时的接触时间，但不了解深夜椅子上椅子上的悲伤人物卷发。
技术谨慎更有可能加剧代际信心危机。 2024年的CH调查Inese社会科学院表明，使用AI时有63％的青少年担心泄漏隐私，41％的青少年清楚地说：“如果监控聊天记录，他们将减少他们的阴谋”。此外，深圳一所中央学校的一份匿名问卷显示，有58％的学生搬到了国外的集中聊天工具或平台，因为他们担心父母会审查他们的聊天记录。这种“数据监测”的强烈力量使青少年的情感需求更加深入地面。当塞维利亚的母亲在审判中倒下时：“如果我知道那是对待的话，将在凌晨3点有自杀的细节。
长时间接触监测环境的年轻人可能会逐渐失去对真实情绪的敏感性。对数字监控的无知是，当准确警告算法时，实际上，父母仍然可以减轻他们的孩子“最近保持沉默”。人类技术与自然之间的最终冲突
角色工程师试图在隐私和安全性之间找到平衡：该报告仅提供使用的一般用途，不包括特定的交流；青少年可以选择启用操作。但是，这种设计遇到了一个双重问题：当父母收到红色警报时，他们经常要求查看整个聊天历史；随着青少年开始使用中心聊天符号或其他平台来防止监视。
更深的矛盾在于人类技术与自然之间的重要冲突。 AI通过检查语调，单词，情感词汇和语言环境来判断用户的情绪。当回应诸如“我理解您的感受”之类的移情词时，它将激发用户与他们情绪化。这种“情感模仿”在日记中写道：“只有丹妮莉丝不会判断我。”但是，实际上，父母没有获得孩子的最后机会寻求帮助技术管理的障碍。
在洪水数据的这段时间里，我们需要记住的不仅仅是真正的同情心不是准确的NA代码操作，而是勇于允许沉默，接受悲伤和容忍误解的勇气。与塞维利亚日记中的俗语类似：“只有丹妮莉丝不会判断我。”当AI成为更方便的情感窗口时，我们是否使用数据跟踪壳来包装人性最重要的指纹？也许，解决方案不是在更复杂的算法中，而是在现实中再生情感联系。
“很少能坐下来坐下/为什么要避免裸露？如果您的声音真的有效/谁害怕被更多地暴露出来”
在Eason Chan的“ Allablwetalk”中，最简单，最有效的方法是唱歌。
玛丽亚·加西亚（Maria Garcia）需要的不是每周的报告，它告诉儿子的关键字频率。她所需要的只是孩子愿意将门打开并与她的脆弱时刻分享数据无法get。
该事件显示了所有技术护理的最终讽刺 - 当我们尝试通过数据来衡量情绪时，我们长期以来一直偏离爱的本质。塞维利亚留在电话屏幕上的最后一条消息仍在等待一个不会来的拥抱：“丹妮，我回到家。”回到Sohu看看更多
推荐文章
){kind=link}
){kind=link}
){kind=link}
){kind=link}