我Ai问两会|很多人被AI做的视频骗了,怎样才能让AI不当“骗子”
创始人
2025-03-07 23:21:09

很多人都被人工智能生成的视频给骗了!伴随着人工智能的飞速发展,各类AI内容生成工具涌现。只需要一则指令,AI就能按照要求生成你想要的视频。然而,一些不法分子利用这一技术从事不法行为,损害他人的名誉、知识产权。怎样才能让AI不当“骗子”?全国政协委员、南京大学教授周志华建议,对于人工智能生成内容应要求明确标注,让受众有明确的知情权,这样能给普通人增强保护。

“现在看到的听到的,都不见得是真的。”周志华告诉记者,伴随着人工智能的飞速发展,大模型的普遍应用,现实的法律挑战随之而来。当下人工智能生成的内容,一方面可以在很多领域发挥作用,如短视频、电影、文学等领域,但另一方面,如果出现滥用和误信,会造成很多危害。

周志华介绍,人工智能生成内容的技术成本低、门槛低,易被犯罪分子利用。同时,由于大众对于人工智能生成内容的认识不足,对深度造假的内容易误信而造成损失。“现在大家对于电诈等行为已经有比较多的了解,但对于人工智能生成内容,一般人的警惕性还不够。” “前不久我们了解到一个案例,一家公司的工作人员收到短信通知让他参加视频会议,在会议上领导当面让他尽快汇出一笔款项,会后他照做了。后来才发现他被骗了,因为这个会议、包括会议上的领导,都是犯罪分子利用人工智能生成出来的。”

很显然,这是监管的盲区。周志华表示,目前,人工智能生成内容的立法和监管还比较欠缺,“对于借助人工智能生成内容来从事不法行为进行牟利、损害他人的名誉、损害知识产权等,在依法打击惩处方面还缺少充分的法律支撑,所以,我们期待加快推动人工智能生成内容方面的立法和监管”。

周志华建议,在实际应用中,要对人工智能生成内容进行明确标注,让受众有明确的知情权,有助于受众增强信息辨识能力,从而增强自我保护能力。他还表示,针对利用人工智能进行诈骗、侵害名誉权等行为,应加大处罚力度,遏制这一不良现象的蔓延。“在推动人工智能生成内容应用的同时,必须加强对其的监管和规范,构建起一个由司法部门、行业协会以及社会各界共同参与的多层次监管体系。通过明确各监管主体的职责与权限,形成合力,共同维护人工智能技术的健康发展,使其更好地服务于社会进步和人民福祉。”

扬子晚报/紫牛新闻记者 杨甜子

摄像 戎毅晔 于房浩

剪辑 马斌

校对 陶善工

相关内容

热门资讯

记者手记|时代大潮里的笃行与担... 来源:新华社记者手记|时代大潮里的笃行与担当新华社记者韩梁 朱瑞卿 伍岳9月的新德里草木葱郁,阳光热...
被骂 “君子之贼” 高若讷有点...     ◎宋慧敏    北宋景祐三年(1036年)一个春日,谏官高若讷接到一封信,写信人是刚刚入朝任...
烂缦胡同:烟火气里涌动青春创业...     近日,在“全国文化中心建设巡礼”主题采访活动中,北京青年报记者走进北京市西城区牛街街道烂缦胡...
科技赋能实体 金融护航出海     9月9日至13日,2026年中国国际服务贸易交易会(以下简称服贸会)在北京首钢园举办,今年的...
湖北大学最新或2023(历届)...   1、考生自最新或2023(历届)4月1日起可在湖北大学招生信息网(http://zsxx.hub...