大力探索“AI+安全”创新应用
来源:中国电子报 更新时间:2024-03-10

全国政协委员、奇安信科技集团董事长齐向东:

大力探索“AI+安全”创新应用


人工智能(AI)是引领新一轮科技革命和产业变革的战略性技术,已在研发设计、生产制造等领域崭露头角,成为新型工业化的重要推动力。今年两会期间,AI也成为代表委员热议的话题之一。

全国政协委员、奇安信科技集团董事长齐向东在接受《中国电子报》记者采访时表示,AI在深入应用的同时,其带来新的安全威胁也需要我们高度重视。

他认为,对于AI带来的安全挑战,一方面,加剧了安全威胁,如数据泄露、欺诈攻击、社会治理安全等。生成式AI技术可以快速生成钓鱼邮件、编写恶意软件与代码,导致攻击数量爆发式增长,AI欺诈事件频繁发生。生成式AI还带来了数据非法获取、数据泄露及恶意滥用等数据安全问题,如ChatGPT 在对话交互过程中能获取用户数据或输出训练数据,可能涉及个人隐私数据、业务数据等敏感信息,加剧了数据泄露风险。此外,不法分子可以通过“深度伪造”技术换脸变声、伪造视频,“眼见未必为实”将成为常态,网络诈骗事件大增,甚至引发社会认知混乱。另一方面,AI加剧攻防失衡,利用和针对AI的攻击层出不穷,网络安全“易攻难守”。在恶意利用方面,AI大幅降低了网络攻击门槛。

那么,在AI时代,如何保证信息和网络安全?

“总体来说,既要发挥人的引领作用,也要充分利用极其强大的智能分析和自动研判能力。不能盲目陷入技术决定论,只有人与机器的力量有机结合,生产力才能真正的新质、高质。”齐向东表示。

具体来说,他建议大力探索“AI+安全”创新应用,提高应对网络空间安全风险与不确定性的能力。主要是抓住三个关键点:

一是从供给侧看,可以开展联合创新,围绕攻防实战和应用场景实现“AI+安全”尖端技术研发突破。技术创新产品需要在应用中更新迭代走向成熟,特别是人工智能大模型,数据样本越丰富,成长速度越快。建议鼓励各行业头部企业与专业安全厂商结成创新联合体,在关键行业选取典型场景开展联合创新,共同探索大模型安全创新产品在威胁检测、漏洞挖掘、指挥研判等方面的应用,在实战中推动“AI+安全”进入越用越强的良性循环。

二是从需求侧看,强化政策牵引,推动“AI+安全”技术创新产品在各行业落地应用。把AI用于网络安全防护是新事物,政企机构面对大模型安全创新产品产生疑虑是正常的。积极的政策引导是推动新事物落地应用、成长壮大的催化剂。以新能源汽车产业的发展为例,最初消费者对其安全性有疑虑,密集出台的一系列政策,逐步改变了消费者的观念,拉动了新能源汽车产业的发展和技术进步。建议像支持新能源汽车的发展一样,支持“AI+安全”发展,设置专项基金,对研发创新“AI+安全”产品的企业,给予政府基金、贴息贷款或科研项目等支持;对率先取得技术突破,实现成果转化的科研机构和企业给予奖励;对积极使用相关技术、产品和服务的企业给予相应补贴,推动“AI+安全”相关产业取得更多科技创新成果。

三是从人才侧看,壮大“AI+安全”领域的实战型、复合型人才队伍。“随着AI技术的普及和应用领域的不断扩展,我国AI人才严重短缺,建议充分发挥民营企业在人才培养上的优势,鼓励成立校企共同体,在实践中培养更多大数据、AI、网络安全等新兴产业领军人才,为我国抢抓AI机遇培育人才。”齐向东表示。 (记者 徐恒)