警惕AI助手的“阴暗面”
创始人
2025-07-17 08:16:18
0

(来源:新安晚报)

转自:新安晚报

  记者从国家安全部了解到,数字化时代,人工智能(AI)正逐渐渗透到千行百业和日常生活中,推动经济社会高质量发展。值得注意的是,AI工具若被不法分子利用,会对我国关键数据、基础设施、社会秩序造成损害,成为威胁国家安全的“隐形武器”。

  虚假信息的“投毒者”

  AI技术中的“深度伪造(Deepfake)”能力是“深度学习”与“伪造”的结合,人工智能的深度学习算法能够进行自动化的数据处理,从而实现图片、音频和视频的智能模拟和伪造。该技术用于影视、游戏、广告等行业,可创作出更多逼真、有趣的虚拟角色和场景,翻新娱乐体验。然而,一旦被滥用或恶意使用,将给个人合法权益、社会稳定和国家安全带来诸多安全风险和挑战。国家安全机关工作发现,某境外反华敌对势力通过深度伪造技术生成虚假视频,企图向境内传播,误导舆论、制造恐慌,对我国家安全构成威胁。

  关键信息的“窃密者”

  从简单的文字生成,到复杂的多模态创作,生成式AI的强大学习能力令人瞩目。AI的学习和决策过程依赖于大量的数据,决定了AI工具可能收集并存储用户输入的信息。据公开报道,因开源库发生故障,某境外AI模型的部分用户可以看到其他活跃用户聊天记录中的标题甚至是名字、支付地址等隐私信息,造成个人信息泄露。如果不注意防范,相关人员信息数据可能成为境外间谍情报机关实施拉拢策反、渗透破坏活动的指引,造成国家安全风险隐患。

  意识形态的“挑拨者”

  AI算法注重知识的重组、创造和输出,如果人为对其进行有偏见性的数据导入和算法重构,可能会演变为偏见性意识形态输出,成为境外反华敌对势力煽风点火的重要武器。特别是在社会热点事件的前期,因事件自带流量,在情况尚不明朗、公众情绪累积时,AI生成的谣言往往“趁虚而入”,炮制虚假信息,误导公共舆论,造成恶劣影响。国家安全机关工作发现,个别西方国家和境外势力通过批量操纵账号,在社交媒体大肆发布特定观点或情感化内容,妄图利用性别对立、劳资纠纷等议题,对我国进行渗透破坏、污蔑抹黑,进而破坏社会稳定。

  国家安全机关提示:对于人工智能生成的内容,应培养批判性思维,提高对真伪信息的辨别能力,未经核实的内容坚决不迷信、不转发、不扩散。使用AI工具时,切勿将个人隐私信息、重要成果、涉密或未公开文件上传至AI平台;限制AI工具权限,禁止非必要应用获取个人通讯录、相册、地理位置等关键信息。  据央视新闻

相关内容

热门资讯

用商标给自己穿马甲?玩文字游戏... 来源:@中国经营报微博 【用商标给自己穿马甲?#玩文字游...
苏州能斯达完成数千万元A轮融资... 已在大消费、医疗康养和具身智能领域量产,医疗康养增速显著。作者|罗宾据IPO早知道消息,近日,苏州能...
普法时刻 | “买定离手” 非... 网购“清代瓷器” 起纠纷——西安碑林法院:“买定离手” 非免责金牌,维权需凭证据作者| 周瑞婷编辑|...
三角轮胎:每股派0.53元 每经AI快讯,7月17日,三角轮胎公告,公司决定每10股派发现金红利5.3元,共计派发4.24亿元。...
江苏丹阳市一厂房起火,当地:明... 新京报讯(记者左琳 实习生刘一席)7月17日上午,江苏镇江丹阳市界牌镇一厂房起火。17日16时,新京...