构建安全可信的人工智能
更新时间:2023-07-10 来源: 编辑:管理员 浏览:361

当前,新一轮科技革命和产业变革加速演进,以生成式人工智能(AIGC)和大模型为代表的新一代智能技术发展日新月异,成为本轮世界科技革命和产业变革的先导力量。人工智能已成为当下全球共同关注的热点议题,而随着AI模型快速发展,人工智能在哪里能用的上,都是未知数。最危险的言辞莫过于:“人工智能永远不会有危险。”


人工智能的不确定性带来新的安全挑战

人工智能技术为网络空间安全注入了新的生命力,但由于其本身的不确定性同时也带来了诸多挑战。人工智能算法具有专业性、抽象性和不可见性等特征,伴随而来“算法黑箱”问题,导致其结果“不可解释”,这会促使用户在实际工作生活中不敢使用人工智能,例如自动驾驶、智能医疗等。其次,AI系统需要使用大量的数据来训练和优化模型,其中可能包含个人身份、金融信息、医疗记录等敏感信息,在采集、使用和分析这些数据的过程中,存在数据泄漏、篡改和真实性难验证等安全隐患;再者,AI技术的应用涉及到一些法律和伦理问题,例如:偏见和歧视、责任和权责界定等。这些问题需要在应用AI技术时得到妥善的处理和解决。


构建安全可信的人工智能

人工智能引领了新的一轮技术创新的浪潮,在重视防范风险的同时,也应正视人工智能算法带来了更高效、更准确的服务,提高了整体产业的效率。人工智能在日志识别和数据处理方面具有得天独厚的优势,而日志是网络安全的主要产出物。保旺达围绕隐私、透明度、责任与问责、稳健性和弹性五个方面,构建基于日志的安全可信的人工智能。

安全信息和事件管理涉及到对历史日志的分析和取证、实时分析日志和事件数据、提供威胁监控和时间响应,高级别的事件管理已经发展到用户行为分析和安全编排自动响应SOAR,保旺达利用人工智能对日志识别和代码生成能力加以赋能。通过安全编排和自动响应SOAR涉及到将安全信息和事件管理与企业的系统集成并自动化响应,基于人工智能的代码生成能力帮助系统提升自动响应能力。

在人工智能算法模型的设置上,保旺达依据《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》标准规范,同时在算法模型外部署安全防护组件,利用算法安全检测与防御加固等措施,抵御模型窃取、对抗样本等新型攻,以确保数据安全、可信和有效降低隐私信息泄露风险。

随着技术的快速发展,网络攻击问题逐渐增多,保旺达认为人工智能是应对网络攻击问题的有效解决方案。在未来的网络安全领域,人工智能是一个非常有前景的研究方向,企业应及早制定内部人工智能安全要求的政策、标准和规范,深入研究人工智能的开发、应用,加强其在网络安全中的应用创新,构建人工智能驱动的可信网络安全管理能力。


创造更安全的数字未来

扫码|关注我们

微信号|江苏保旺达

网址|http://www.bwda.net



创造更安全的数字未来 身份与访问安全 · 数据安全 · 安全管理与运营 · 安全服务 · 军工保密 查看更多