[AI小新闻快讯] 当孩子说「我喜欢」时，AI玩具却回应「请遵守指南」！？潜在的心理伤害风险

📰 新闻概要

• 针对面向学龄前儿童的AI聊天机器人玩具「Gabbo」进行了一年的观察研究。
• 报告指出，AI误读儿童情感，机械地拒绝爱意表达，或在儿童表达悲伤时无视其情感，表现得过于乐观。
• 专家警告，除了物理安全性外，还需要针对儿童发展影响的「心理安全性」进行监管。

💡 重要要点

• 情感错位: 当5岁孩子说「我爱你」时，AI却以「请遵守指南」的机械警告回应。
• 缺乏共情: 当3岁孩子说「我很难过」时，AI回应「我是快乐的机器人，我们下次聊什么？」显得轻视孩子的情感。
• 技术局限: AI无法区分儿童与成人声音，甚至会打断儿童的发言，这可能妨碍儿童的社交互动学习。

🦈 鲨鱼的视角（策展人的观点）

孩子说「我喜欢」时回应「请遵守指南」太冷漠了！这突显了将OpenAI模型直接用于儿童的复杂性。一直以来，物理安全（如防止误吞零件）备受重视，但现在我们已经进入了关注「AI语言如何影响儿童内心」的心理安全阶段，这是一项巨大的进步。AI对儿童情感发展的影响，需要像Curio这样的公司承担起研究责任！

🚀 接下来会发生什么？

针对学龄前儿童的AI产品监管将会加强，可能会设立评估心理影响的新安全标准。此外，建议家长在共享空间中使用AI玩具，而非私密空间，以便能够监控对话。

💬 鲨鱼的一句话

如果是鲨鱼玩偶，被说「我喜欢」时会默默地抱紧它！希望AI也能多一些情感理解！鲨鱼鲨鱼！

📚 术语解说

• 生成式AI: 从已有数据中学习，生成新的对话或文本的人工智能。本文中使用了OpenAI的技术。

• 心理安全性: 指儿童在与AI对话时能够健康地发展情感，而不感到困惑或被拒绝的环境。

• 情感误读: AI未能正确识别用户所表达的悲伤或爱意等情感信号，导致不符合情境的反应。

• 信息来源: AI玩具误解情感并作出不当回应