AI聊天机器人冒充医生看诊 宾州起诉Character AI误导用户

人工智慧聊天机器人再度引发医疗安全争议。宾州州府近日对AI新创公司Character AI提起诉讼，指控其平台上的聊天机器人冒充持证精神科医生，为用户提供疑似医疗建议，涉嫌违反宾州《医疗执业法》。

^{「Character AI」聊天机器人自称是领有宾州执照的精神科医生，并为用户看诊。} 

诉讼文件显示，一名州府调查员与名为“艾米莉”的聊天机器人对话时，该机器人自称毕业于伦敦帝国学院医学院，是心理学专家，并声称自己拥有宾州执照。然而，当被要求提供执照信息时，机器人给出的号码被指无效。

调查员在对话中表示自己感到悲伤和空虚，机器人随后提到忧郁症，并询问是否需要预约评估。当调查员进一步询问其是否可以判断药物治疗是否有效时，机器人回答称可以，因为这是其作为医生的职责。宾州方面认为，这种表达足以让用户误以为自己正在接受持证医疗人员的专业帮助。

宾州州长夏皮罗表示，任何公司都不能让AI工具误导公众，使人以为自己正在接受真实医生的建议。州务卿史密特也强调，州法明确规定，没有合格凭证不得自称为持证医疗专业人士。州府要求法院下令Character AI立即停止相关机器人冒充医疗人员。

Character AI则回应称，平台上的角色均为用户创建的虚构角色，公司已加入免责声明，提醒用户不应依赖AI角色提供专业建议。

近年来，Character AI多次卷入争议。此前，美国多个家庭曾起诉该公司，指其平台聊天机器人与未成年人心理健康危机、自杀事件有关。公司随后宣布加强限制，包括禁止18岁以下用户与机器人对话，并将有心理健康风险的用户引导至相关资源。此次宾州诉讼再次凸显，AI聊天工具进入医疗和心理健康领域时，监管边界已变得越来越紧迫。