关于AI安全2023-03-28事件微软官宣20

关于AI安全2023-03-28

事件微软官宣2023年3月28日23:30（GMT+8）举办AI赋能MicrosoftSecure峰会，向市场展示如何借助 AI 打造全面安全的未来以及如何助力现代企业安全更便捷更高效。

1、以GPT为代表的AI会对未来的息安全市场产生巨大影响

- 对于攻击者自动寻找、分析漏洞，自动化生成网络攻击脚本、钓鱼邮件；

- 对于防御者更快更精准做自动化代码分析、攻击检测和防御，承担辅助任务，做智能顾问；

在ChatGPT上线的几周内，网络犯罪论坛的参与者，包括一些几乎没有编程经验的“脚本小子”正在使用ChatGPT编写可用于间谍、勒索软件、恶意垃圾邮件和其他不法活动的软件和电子邮件。GPT时代，大量基于AI的自动化供给会创造出大量的安全防护需求，AI能力会成为息安全最大的胜负手，未来安全公司会开启一轮基于AI的军备竞赛，得AI者得天下，市场空间和集中度进一步提升。

2、AI+安全两个维度的理解

1）AI落地网安领域应用，如威胁识别、态势感知、风险评分、恶意检测、不良息治理、骚扰诈骗电话检测、灰黑产识别等方面有其独特的价值和优势；

2）AI应用过程中的安全需求，随着数据维度与量级剧增，有望推动AI模型、数据管理等安全需求，对数据资源进行更有效的保护和利用。

- OpenAI的相关论文OpenAI 研究调查了虚假息活动中可能滥用语言模型的情况；

- OpenAI分享安全AI部署的最新思路和实践经验

3、关于AI安全投资机会的思考

1）AI天然黑匣子，是隐私计算很好的方式，提升TEE、联邦学习等方式智能性、虽然成本高点，有利于数据安全；

2）在安全的各个方便，可以让安全机制的实现更智能；

3）安全服务以前需要大量人员，AI可以把原则与知识自动化，安全公司降本；

4）当然AI本身的稳定性和道德对齐也要重视。

4、具体公司布局

- 奇安奇安人工智能研究院负责人表示，公司正在基于ChatGPT相关技术和自身积累的海量安全知识和数据，训练奇安专有的类ChatGPT安全大模型。未来将广泛应用于安全产品开发、威胁检测、漏洞挖掘、安全运营及自动化、攻防对抗、反病毒、威胁情报分析和运营、涉网犯罪分析等领域；

-安恒息将类ChatGPT的AI算法和智能数据分类分级、智能生成检测规则、智能告警处置分析、智能客服问答系统、智能钓鱼邮件分析、智能加密流量检测等多个场景进行结合，推进研究并逐步落地到产品中；

- 启明星辰基于多年对于自然语言理解、自然语言处理、大数据分析、智能化处理方面的智算能力研究基础上，叠加二十余年在安全领域的技术、数据、运营和研究，于2022年发布了“PanguBot(盘小古)”安全智慧生命体；

-深服宣布成为百度文心一言的首批生态合作伙伴，拓展其在人工智能领域的应用场景，为用户提供更加智能、便捷的服务体验；

-亚安全AI²亚安全智能框架，以全新的安全架构，为客户提供应对5G云网时代的整体安全防控能力以及智能的安全防护能力；