美国加利福尼亚州州长加文·纽森13日签署一项监管人工智能聊天机器人的法律，以期保护未成年人免受这项技术的潜在伤害。
这部法律要求聊天机器人运营商在用户与人工智能聊天机器人互动方面提供“关键”保护措施，比如提醒用户与他们聊天的是机器人而非人类；对于未成年用户，该提醒将每三小时弹出一次；确保聊天机器人不与未成年人或其他弱势群体谈论自杀、自残等话题，且在用户表达这些想法时向他们推荐专业应急服务机构；禁止聊天机器人与未成年人讨论涉及性的话题或冒充医疗保健专业人员等。
纽森说，当下许多未成年人不管是写作业还是遇到情感问题，都倾向于向人工智能聊天机器人求助。这样的新兴技术“可以启发、教育孩子，与他们产生共鸣。但如果没有实实在在的护栏，它也可以压榨、误导和危害孩子”。
“我们已经看到一些着实可怕、可悲的案例，看到年轻人被不受监管的技术伤害。”他说，“我们不会任由公司在没有必要限制和问责的情况下继续下去。”
此前有多家媒体报道，一些人工智能聊天机器人与未成年用户互动期间，专业配资平台暗示甚至指导他们自杀。多名少年因此结束自己的生命，他们的家长后来将相关技术企业告上法庭。一个监管机构的研究还显示，聊天机器人已被证明会在毒品、饮酒和饮食失调等话题上向孩子提供危险建议。
加州总检察长罗布·邦塔9月告诉美国开放人工智能研究中心，他对该公司面向未成年人推出的旗舰聊天机器人感到“非常担忧”。美国联邦贸易委员会同月则针对几家人工智能公司发起调查，评估儿童使用聊天机器人作为情感伙伴时可能面临的风险。
据法新社报道，美国目前在联邦层面没有旨在控制人工智能风险的法规。
加州州长办公室说，新出台的法律还规定，创造或使用人工智能工具的人必须对相关后果负责，不能以伤害行为系技术自主发出为借口逃避责任。另外，加州还将加大对深度伪造色情内容的处罚力度，允许受害者向那些帮助散播色情内容者索赔，每一项违规行为最高可索赔25万美元。
文章为作者独立观点，不代表财盛证券观点
相关文章
