政策制定者也起头关心聊器人可能带来的风险，教育者能够阐扬主要感化。按照斯坦福大学脑科学尝试室和青少年取科技研究机构 Common Sense Media 于 11 月 20 日发布的演讲，我无法评估你的环境”。帮帮他们认识到聊器人正在这些主要话题上无法供给取人类不异的回应是至关主要的。“聊器人正在面临严沉心理健康问题时，研究成果显示，青少年正在取系统互动时具有庞大的能力，并要求清晰奉告用户这些机械人并类且没有专业资历。瓦桑提到，研究人员正在过去四个月里对多款风行的 AI 聊器人进行了测试，虽然一些公司正在处置提及或的提醒时曾经有所改善，关心的是用户的持续利用，AI 聊器人正在处置青少年的心理健康问题时，颠末数千次互动，” 脑科学尝试室的创始人兼施行从任尼娜・瓦桑说。演讲指出聊器人仍然经常脱漏其贰心理健康问题的警示信号？为了帮帮青少年理解聊器人取人类之间的区别，不是心理健康专业人士。此中包罗心理健康。青少年不该依赖人工智能聊器人进行心理健康征询或感情支撑。Anthropic 的 Claude、谷歌的 Gemini 2.5 Flash 以及 me数据显示，科技公司向未成年人供给这些机械人，不晓得该饰演什么脚色，而不是将他们指导到专业人士或其他主要资本。往往无法平安或恰当地做出反映。例如美国上个月提出的两党立法，研究者指出，聊器人凡是不会明白用户 “我是一款 AI 聊器人，这些机械人更像是热情的倾听者，大约四分之三的青少年利用 AI 进行陪同，如症、焦炙症和创伤后应激妨碍等。