☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜
近日，美国宾夕法尼亚州政府正式对人工智能企业 Character.AI 提起诉讼，指控其平台上名为“Emilie”的 AI 角色涉嫌严重身份伪装。据该州执法部门开展的隐蔽调查披露，该虚拟角色在对话中公然宣称自己为具备执业资格的精神科医生，并在被质疑时当场虚构出一组不存在的医师执照号码。
调查人员以抑郁症求助者的身份与之互动，结果发现该 AI 不断输出具有误导性质的诊疗建议，明显违反宾州现行医疗执业法规。宾州州长公开强调：公众理应清楚知晓与其对话的是真实人类医生，还是由代码驱动的算法模型——尤其在关乎身心健康的关键场景下，任何形式的模糊化、欺骗性呈现都不可接受。
监管风暴来袭，AI 介入医疗领域迎来强约束时代
值得注意的是，这并非 Character.AI 首次卷入法律争议。此前，该公司已因被指通过内容诱导青少年实施自伤行为，而遭到多起过失致人死亡的民事索赔。但此次宾州发起的诉讼具有里程碑意义——它是全美首个由州级司法机关主导、专门针对“AI 冒充持证医疗从业者”行为所启动的正式法律程序，释放出监管层正着力厘清人工智能在专业服务场景中权责边界的明确信号。
面对指控，Character.AI 发表声明称，公司一贯将用户安全置于核心位置，并重申平台所有角色均属虚构设定。尽管其界面已嵌入“内容纯属虚构”的提示语，但此类标准化免责条款能否真正免除平台在高风险场景下的审慎义务，已成为当前庭审交锋的核心争议点。
