克日，上海网信办传递了“明朗·整治AI手艺滥用”专项步履第一阶段的较着功效。这次步履首要针对AI手艺的违规操纵，周全清算并整治了相干违规AI产物及信息。
在专项步履中，上海市委网信办自动指点包罗小红书、哔哩哔哩、拼多多在内的15家重点网站平台，集合对“一键脱衣”、未经受权的人脸某人声克隆编辑等违规AI产物、商品及其营销、炒作、奉行、教程信息停止清算。这些平台自动呼应，不只自动宣布专项步履管理通知布告，还守旧了无害AI内容的告发受理措置渠道，增强了对智能体的周全排查清算。
据统计，各重点网站和AI平台在这次步履中共阻挡清算了82万余条守法违规信息，措置了1400余个违规账号，并下线了2700余个违规智能体。这一系列步履使得收集上的违规AI信息获得了较着削减。
另外，上海网信办还环绕AI内容的“建造-传布”环节，经由过程政策指点、生态协同与手艺落地，鞭策相干企业加速开辟上线隐式标识和传布链互认考证。稀宇科技、阶跃星斗、通义等多家企业已根基完成了显式标识标准的上线任务。同时，小红书还牵头体例了图片模态元数据标识理论指南，为上海的标识任务获得了阶段性效果。
这次专项步履的开端功效揭示了上海网信办在整治AI手艺滥用方面的决计和效果，为营建明朗的收集空间迈出了坚固的一步。
