JDB电子中国区-警惕!AI助手的“阴暗面”!
2025-08-08 15:10:02
share to :

  数字化时代,人工智能(AI)正逐渐渗入到千行百业及一样平常糊口中,鞭策经济社会高质量成长。值患上留意的是,AI东西若被非法份子使用,会对于我要害数据、基础举措措施、社会秩序造成侵害,成为威逼国度安全的“隐形兵器”。

  虚伪信息的“投毒者”

  AI技能中的“深度伪造(Deepfake)”能力是“深度进修”与“伪造”的联合,人工智能的深度进修算法可以或许举行主动化的数据处置惩罚,从而实现图片、音频及视频的智能模仿及伪造。该技能用在影视、游戏、告白等行业,可创作出更多传神、有趣的虚拟脚色及场景,翻新文娱体验。然而,一旦被滥用或者歹意利用,将给小我私家正当权益、社会不变及国度安全带来诸多安全危害及挑战。国度安全机关事情发明,某境外反华敌对于权势经由过程深度伪造技能天生虚伪视频,诡计向境内流传,误导舆论、制造发急,对于我国度安全组成威逼。

  要害信息的“窃密者”

  从简朴的文字天生,到繁杂的多模态创作,天生式AI的强盛进修能力使人瞩目。AI的进修及决议计划历程依靠在年夜量的数据,决议了AI东西可能网络并存储用户输入的信息。据公然报导,因开源库发生妨碍,某境外AI模子的部门用户可以看到其他活跃用户谈天记载中的标题甚至是名字、付出地址等隐私信息,造成小我私家信息泄露。假如不留意提防,相干职员信息数据可能成为境外特务谍报机关实行撮合策反、渗入粉碎勾当的指引,造成国度安全危害隐患。

  意识形态的“教唆者”

  AI算法看重常识的重组、创造及输出,假如报酬对于其举行有成见性的数据导入及算法重构,可能会蜕变为成见性意识形态输出,成为境外反华敌对于权势煽风焚烧的主要兵器。尤其是于社会热门事务的前期,因事务自带流量,于环境尚不开阔爽朗、公家情绪累积时,AI天生的谣言往往“趁虚而入”,炮制虚伪信息,误导大众舆论,造成卑劣影响。国度安全机关事情发明,个体西方国度及境外权势经由过程批量把持账号,于社交媒体大举发布特定不雅点或者感情化内容,妄牟利用性别对于立、劳资胶葛等议题,对于我举行渗入粉碎、歪曲抹黑,进而粉碎我社会不变。

  国度安全机关提醒

  面临人工智能技能成长带来的新机缘及新挑战,需要前瞻研判相干危害,提高国度安全意识及自我提防意识,配合筑牢维护国度安全的人平易近防地。

  ——提高法治思维。最近几年来,我国出台《天生式人工智能办事治理暂行措施》等部分规章,发布《人工智能安全管理框架》等,于法治轨道上增强人工智能管理。公平易近应自动进修相干法令常识,遵守相干财产尺度、技能尺度及行业规范,鞭策人工智能技能良性康健成长。

  ——增强宣传普和。多措并举增强公家对于人工智能的熟悉与理解,提高公家对于人工智能安全性的熟悉,晋升对于信息的辨识与阐发能力,让公家相识于利用AI技能历程中可能面对的危害,提高警惕意识、绷紧提防之弦。

  ——加强鉴别能力。对于在人工智能天生的内容,应造就批判性思维,提高真伪信息的鉴别能力,未经核实的内容果断不迷信、不转发、不扩散。利用AI东西时,切勿将小我私家隐私信息、主要结果、涉密或者未公然文件上传至AI平台;限定AI东西权限,禁止非须要运用获取小我私家通信录、相册、地舆位置等要害信息。

  泛博人平易近群众如发明人工智能办事提供者及利用者有任何风险国度安全及好处的举动或者线索,可经由过程12339国度安全机关举报受理德律风、收集举报平台(www.12339.gov.cn)、国度安全数微信公家号举报受理渠道或者者直接向本地国度安全机关举报。

-JDB电子中国区


深圳总部
深圳市南山区粤海街道深圳湾
青岛分部
青岛市崂山区科苑
成都分部
成都市双流区西航港街道
上海分部
上海市浦东新区张江高科技园区
南京分部
南京市江北新区