息安全|AI带来的新增量

简谈 

今年以来全球焦点在ChatGPT，新技术的“两面性”开始凸显，我村《意见稿》出台恰逢其时。

随着深度合成和生成式 AI 技术的开放开源、深度合成和生成产品和服务的增多，技术门槛快速降低，技术逐渐“平民化”。

以下为全球大模型AI重要事件的整理图

随着深度合成和生成式 AI 技术被滥用的可能性提高，造成安全风险与实质性危害，包括制造虚假视频、语音进行诈骗、勒索的违法行为不断增多，给个人、企业造成肖像、名誉等人格和财产权益损害。

部分企业将内部数据直接输入对应 AI 模型，或将导致数据的泄密风险。因为，我们认为 AI 监管的需求将会伴随生成式 AI 的需求增长而增长，呈现“矛”和“盾”之间的螺旋上升关系。

 AI 监管主要体现在三个方面

1.对数据集获取的安全合规性

由于 AI 模型需要大量数据的训练，在使用过程中也需要上传数据获取模型输出结果，因为针对企业内部在使用 AI 大模型时候上传数据的安全和保密性需求将会持续提升，利好数据安全和加密类企业的需求增长。

如启明星辰、安恒息、奇安、深服、安博通、安世纪、三未安、格尔软件等。

2.对人工智能模型的可解释性和透明性

目前的 AI 大模型均是基于深度学习搭建，其中的决策机制和过程尚不透明，模型的可解释性较差，这对于 AI 的应用构成了比较大的挑战。未来针对 AI 模型可解释性的研究也将会持续发展，利好 AI 算法类企业的突破。

3.对人工智能生成内容的识别和审核

由于 AI 模型本身是否具有歧视性和偏向性尚存在争议，因此对于人工智能生成内容的识别和审核需求将会提升，包括反生成式 AI 系统在内的产业将会受益，相关公司如美亚柏科等。

以上个人投资交易的思考分享，欢迎关注一起交流。

日拱一卒，慢慢复利

坐而言，不如起而行。

— END —

声明

文章仅限于分享，在任何情况下，所分享息均不构成投资建议。