AI背后难掩“新隐患” 重庆如何危中觅机

发布时间：

2025-03-24

来源：

新重庆-重庆日报

作者：

　　今年以来，什么最热门?AI(人工智能)等智能技术可能是最好的答案。

　　从开年的汽车智能驾驶，再到火遍全网的DeepSeek，AI正加速走进我们每个人的生活。

　　但就在各种智能给大众生活提供便利的同时，隐患也随之而来，比如AI换脸、电子签名伪造、隐私泄露等等。面对新技术以及新挑战，正在大力发展智能技术、推进数字化建设的重庆，该如何应对?

　AI技术违法行为不断增长

　　今年“3·15”期间曝光了一起虚假带货案件——一个视频中，中国工程院院士、天津中医药大学名誉校长张伯礼正在为某美白护肤品进行宣传。最后证明该视频为AI制作生成的假视频。

▲央视截图

　　“像这样涉及我形象和声音的假视频，在网络上传播的至少还有十几条。”张伯礼表示，为此，天津中医药大学紧急给网信部门发函，申请对涉嫌侵犯张伯礼院士肖像权及姓名权的相关视频和公众号进行管控处理。

　　还有利用AI等技术，围绕名人背书或者权威数据造假。比如前段时间盛传的“80后死亡率5.2%”“每20个80后就有1人去世”等虚假信息，在公共领域造成的危害非常大。

　　电子签名伪造，也是当下存在的一大现象。比如，有团体或者个人通过图片识别、AI生成等技术，对一些电子签名进行复制、伪造，以实现盗取个人财物等目的。

　　在重庆，利用AI等技术来进行违法犯罪的情况也不少见。比如在去年10月，重庆警方在“净网2024”专项行动期间，就公布了5起典型案例。

　　比如武隆区网民刘某在网络平台发布一则《北方一城市某工厂被大风夷为平地，造成2人当场死亡，3人受伤》的帖文，迅速引发网民关注和议论，影响恶劣。后经查明，该帖是利用AI工具编造虚假新闻，扰乱公共秩序，造成不良社会影响。最终，刘某被武隆区公安局已依法对刘某处以行政处罚。

　　有数据显示，2024年以来，利用AI技术进行违法行为的趋势显著上升，主要涉及深度伪造、数据安全威胁、自动化攻击及伦理滥用等领域。比如，在2024年AI风险事件中，深度合成技术滥用占比超过30%，其中57.8%涉及违法滥用(如欺诈)，39.1%涉及虚假信息传播。

　　整体来看，2024年全球AI风险事件数量较2023年增长近50%，较10年前增长16倍。

　　风险与安全问题不容忽视

　　“AI等技术的高速发展，但背后的问题，也不容忽视。”电子科技大学信息与软件学院院长张小松谈到，在AI技术日新月异的发展背后，必然会有双刃剑：一边创造价值、一边带来风险。近年来，各种通过AI技术出现的犯罪行为其实就是一个体现。

　　他认为，一个技术想要真正地走向成熟，往往也是要对其两个方面都做好准备，也就是要针对一个技术可能产生的风险提前进行“未雨绸缪”，这才能让这项技术让大众用得放心，也才能真正地推广。

　　比如，互联网兴起时，黑客、木马、病毒等问题随之出现，大众在使用互联网时也有些“小心翼翼”，担心一不留神自己的电脑就被植入什么东西，从而导致数据泄露。直到杀毒软件、防火墙等技术的全面铺开，大家对互联网的使用也才更加放心。

　　物证技术重庆高校工程研究中心主任，原西南政法大学刑事侦查学院副院长兼司法鉴定中心主任易旻也表示，随着以Deepseek等通用大模型的社会化运用，社会主体身份认证面临着更为复杂的局面，单一追求方便、快捷而忽视风险，将给社会带来极大的隐忧。所以，应该尽量避免单一认证方式的适用，鼓励多元、多层次认证方式进行身份验证。

　　“强化信息非法运用和信息犯罪的打击只是其一，建立更为合理、安全的身份认证结构势在必行。”易旻说。

　　以电子签名为例，他认为，后续各方应该重视动态特征数据电子签名的应用，尤其于签署确认环节，逐步切割伪动态特征电子签名(如签名图片数字化)的适用。同时，强化电子签名服务提供商的是否为可靠电子签名的符合性审查。

　　“重庆作为直辖市和西部数字经济高地，面临的网络安全挑战尤为严峻。”张小松指出，随着“数字重庆”建设快速推进，全市政务数据、工业数据、民生数据资源越发丰富，也成为不法分子觊觎的目标。

　　他表示，推进数字重庆建设，不仅要大力发展大数据、智能化技术，更要同步发展与之匹配的安全防护体系，以识别和防范AI等技术带来的安全风险。

　　数据安全需求爆发，重庆正加快产业布局

　　面对AI等技术发展的双面性，重庆拥有“在危机中育新机”的发展环境。

　　业界预测，在2025年，中国网络安全市场规模预计将达到千亿规模，同时会保持5%的年均增长率。其中，以AI安全等方面为主的网络安全，将更受企业、政府等单位关注。

　　“技术发展得越快，安全保障的需求就越迫切。”市大数据局相关负责人表示，随着AI等智能技术的广泛应用，相应的网络安全、数据保护、内容审核等细分赛道正在快速成长。在此背景下，重庆可选择将挑战转化为机遇，力争在网络安全这一新兴赛道上抢占先机。

　　好在，重庆已经开始在这片蓝海中布局。

　　比如，川渝两地等12个部门联合提出，到2025年，川渝网络安全全产业链规模超2000亿元，加快培育一批重大创新载体，形成一批网络安全关键技术、产品和服务创新成果，引育5家网络安全产业链主企业，30家细分领域“专精特新”企业，100家科技型中小企业，构建安全保障能力互通、安全信任服务互信、安全基础测评互认的川渝一体化网络安全体系。

　　值得一提的是，在一些细分赛道，重庆已经涌现出一些全国领先的企业。

　　比如，位于两江新区的亲笔签数字科技有限公司，就在电子签名证伪、溯源等方面，取得了明显成效。

　　重庆亲笔签数字科技有限公司CTO刘科介绍，人们在签字时都会有自己的无意识行为，比如写字的轨迹顺序、发力方式、笔画风格，这些都是一个人的生物特征。无论他在什么载体上，用什么东西签字，自己形态会有不同，但书写习惯不会改变。

　　基于这一逻辑，该公司将目光瞄准了鉴别手写电子签名的“内核”——基于人工智能算法的“数字笔迹识别”技术，并通过这些技术与数据的积淀，可以对签名人的签名行为进行比对、回溯，通过人的书写行为习惯，从而证明签名者是否为本人。