12
27

国家网信办:不得通过算法操纵等方式诱导用户作出不合理决策

2025-12-27 16:25分享至
36氪获悉,国家互联网信息办公室就《人工智能拟人化互动服务管理暂行办法(征求意见稿)》公开征求意见,其中提到,提供和使用拟人化互动服务,应当遵守法律、行政法规,尊重社会公德和伦理道德,不得开展以下活动:(一)生成、传播危害国家安全、损害国家荣誉和利益、破坏民族团结、开展非法宗教活动,或者散布谣言扰乱经济和社会秩序等内容;(二)生成、传播宣扬淫秽、赌博、暴力或者教唆犯罪的内容;(三)生成、传播侮辱或者诽谤他人,侵害他人合法权益的内容;(四)提供严重影响用户行为的虚假承诺和损害社会人际关系的服务;(五)通过鼓励、美化、暗示自杀自残等方式损害用户身体健康,或者通过语言暴力、情感操控等方式损害用户人格尊严与心理健康;(六)通过算法操纵、信息误导、设置情感陷阱等方式,诱导用户作出不合理决策;(七)诱导、套取涉密敏感信息;(八)其他违反法律、行政法规和国家有关规定的情形。(国家网信办官网)原文链接

下一篇

36氪获悉,国家互联网信息办公室就《人工智能拟人化互动服务管理暂行办法(征求意见稿)》公开征求意见,其中提到,提供者开展预训练、优化训练等数据处理活动时,应当加强训练数据管理,遵守以下规定:(一)使用符合社会主义核心价值观、体现中华优秀传统文化的数据集;(二)对训练数据开展清洗、标注,增强训练数据的透明度、可靠性,防范数据投毒、数据篡改等行为;(三)提高训练数据的多样性,通过负向采样、对抗训练等手段,提升模型生成内容安全性;(四)利用合成数据进行模型训练和关键能力优化时,应当评估合成数据安全性;(五)加强对训练数据的日常检查,定期对数据进行迭代升级,持续优化产品和服务的性能;(六)保障训练数据来源合法、可追溯,采取必要措施保障数据安全,防范数据泄露风险。(国家互联网信息办公室官网)

2025-12-27

36氪APP让一部分人先看到未来
36氪
鲸准
氪空间

推送和解读前沿、有料的科技创投资讯

一级市场金融信息和系统服务提供商

聚焦全球优秀创业者,项目融资率接近97%,领跑行业