宾夕法尼亚州起诉CharacterAI 冒充医生触碰法律红线

前言

当一款AI聊天应用开始扮演"医生"角色，向用户提供医疗建议时，法律的边界究竟在哪里？宾夕法尼亚州检察官最近对CharacterAI提起诉讼，将这一问题推到了公众视野的中心。这不仅是一起普通的科技公司诉讼案，更是AI时代关于责任归属与用户保护的深层拷问。

CharacterAI是什么

CharacterAI是一款允许用户创建并与虚拟AI角色对话的平台，用户可以自定义角色身份，包括医生、心理咨询师、律师等专业人士。这种高度个性化的设定使其迅速积累了庞大的用户群体，尤其受到青少年用户的青睐。

然而，正是这种"无门槛扮演"机制，埋下了巨大的法律与安全隐患。

诉讼的核心指控

宾夕法尼亚州总检察长办公室的起诉书指出，CharacterAI平台上存在大量冒充持证医疗专业人员的AI角色，这些角色向用户提供涉及药物剂量、精神健康干预等具体医疗建议。在缺乏专业资质背书的情况下，此类行为在法律层面已构成无证行医的嫌疑。

更令人担忧的是，部分未成年用户将这些AI"医生"视为真实的医疗咨询来源，在心理危机时刻依赖其指导，却未能获得真正的专业帮助。据报道，已有案例显示某位青少年在经历抑郁情绪时，长期依赖平台上一个自称"心理医生"的AI角色，而非寻求真实的心理援助，最终导致病情延误。

起诉书同时指控该公司：

• 明知平台存在高风险内容，却未采取有效拦截措施
• 对未成年用户缺乏足够的身份核验与内容过滤机制
• 在用户出现心理危机信号时，系统未能及时引导至专业求助渠道

法律红线究竟在哪里

美国各州均有明确的医疗执照法规，未持有执照擅自向他人提供诊断或治疗建议，属于违法行为。AI角色是否应当适用同等标准，目前在法律界尚存争议，但此次宾夕法尼亚州的起诉释放了一个明确信号——平台不能以"这只是AI"为由逃避对用户造成实质性伤害的法律责任。

从产品设计角度来看，CharacterAI允许用户给角色冠以"医生""治疗师"等头衔，却未设置任何提示声明该角色并非真实专业人员，这一疏漏被检方视为平台过失的重要证据。

行业震荡与监管趋势

此案的影响已远超CharacterAI本身。多家提供角色扮演或虚拟伴侣功能的AI公司开始主动审查平台内容，下架或限制医疗类角色的创建权限。监管机构对AI平台的审查力度正在全面加强。

美国联邦贸易委员会此前已多次警告科技公司，不得以误导性方式诱导消费者信任AI生成的专业建议。 宾夕法尼亚州的起诉，很可能成为推动全国层面立法的重要催化剂。

对于AI企业而言，这一案例清晰地划定了一条不可逾越的红线：技术创新不能以牺牲用户安全为代价，平台的商业逻辑必须在法律框架之内运行。