“人工智能衍生出的各类新型手段，掩盖不了犯罪分子非法占有的目的。”近年来持续关注“AI与安全”话题的全国人大代表、上海富申评估咨询集团董事长樊芸认为，无论是电信诈骗，还是升级后的AI诈骗，违法者的目的都是不择手段去非法占有不正当利益，刑法、反电信网络诈骗法等现有法律是可以对AI诈骗犯罪进行制裁的。

樊芸指出，当前部分网民随意使用AI生成换脸视频等行为，也存在法律风险。根据民法典规定，任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意，不得制作、使用、公开肖像权人的肖像，但是法律另有规定的除外。因此，随意制作AI换脸视频可能涉嫌侵犯他人肖像权。民法典规定，对自然人声音的保护，参照适用肖像权保护的有关规定，因此这类行为同样可能涉嫌侵犯他人声音权。如果在未经著作权人授权情况下，私自利用AI换脸技术等“加工”他人作品，也涉嫌侵犯著作权。

AI换脸诈骗主要依赖于深度合成技术，对这一技术可能诱发的违法犯罪问题，相关部门也已关注并进行规范限制。

2023年1月10日起施行的《互联网信息服务深度合成管理规定》(以下简称《规定》)，为深度合成服务划定了“底线”和“红线”，明确了深度合成服务提供者的法定义务。比如，任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息;提供人脸、人声等生物识别信息编辑功能的，应当提示深度合成服务使用者依法告知被编辑的个人，并取得其单独同意;应当采取技术或人工方式对深度合成服务使用者的输入数据和合成结果进行审核等。

当前很多短视频平台和社交平台均要求用户上传AI生成的内容时要作明确标记，正是落实《规定》中提出的深度合成服务提供者对使用其服务生成或者编辑的信息内容，应当采取技术措施添加不影响用户使用的标识的要求。这些明确标记既可以提醒用户这是AI生成内容，也可以在需要时追溯内容来源。

2023年8月15日起施行的《生成式人工智能服务管理暂行办法》规定了生成式人工智能服务的基本规范，同时明确了生成式人工智能服务的提供者和使用者的义务与要求，细化了监管部门的管理措施。

完善人工智能领域法律建设

据2023年工信部统计数据显示，我国人工智能核心产业规模已达5000亿元，企业数量超过4300家。记者注意到，在国务院2023年度立法工作计划中，人工智能法草案被列入其中。在高速发展之际，多名全国人大代表提出，应不断完善人工智能领域法律法规建设，加快推进人工智能法出台。

全国人大代表、中国电信抚州分公司云网运营支撑中心“宗强班”班长宗强指出，随着人工智能技术的发展，犯罪手段迭代升级，虽然当前已有一些缓解安全风险的控制措施、技术标准等手段，但人工智能安全风险治理还需与管理手段相结合，健全人工智能安全政策法规至关重要。他建议推动人工智能相关立法工作，强化AI技术滥用法律约束，为我国人工智能安全治理提供法律支撑。

“当前人工智能算法训练和使用过程中面临的各类数据安全、网络安全、隐私泄露等问题，已成为制约人工智能健康发展的关键痛点，亟须形成一套可信人工智能技术标准和评估体系来加以规范。”全国人大代表、中国移动河南公司党委书记楼向平注意到，诸如人工智能侵权问题以及虚假生成内容的责任认定、人工智能生成物的可版权性以及权利归属、隐私保护问题等在当前法律制度体系中仍存在一定立法空白。他建议加快推动人工智能领域立法进程，促进人工智能产业健康发展。在人工智能法颁布前，可通过在现有数据安全法、著作权法等法律规定基础上制定行政法规或发布司法解释等方式阶段性缓解人工智能发展中面临的法律问题。

楼向平还建议明确生成式人工智能“事前—事中—事后”全链条监管机制，要出台人工智能风险等级规范，针对不同类型、不同风险等级，施加不同的监管措施。

全国人大代表、中国电信湖北公司党委书记张敏提出，应增强人工智能技术安全应用的法治保障能力，这其中最重要的就是要加快推进人工智能法的立法工作。

除加快推进立法外，张敏认为还应增强关键信息基础设施智能化安全合规的监管能力。比如，强化人工智能系统的安全性评估，加强对人工智能算法和模型的审计;严格落实网络安全等级保护的基本要求，常态化开展安全威胁的智能化监测和处置;提升智能化防护水平，构建更加智能、安全的网络环境。