共同解决难题，AI安全工作组发起成立

7日下午，在2023 inclusion·外滩大会举行的“探索下一代安全智能”论坛上，世界权威国际产业组织“云安全联盟”（CSA）大中华区宣布成立“AI安全工作组”，中国电、蚂蚁集团、华为、百度、国家金融测评中心、西安电子科技大学等30余家企业、高校与科研机构成为首批发起单位。CSA大中华区官网链接

与会的中国科学院何积丰院士表示“以AI，AIGC和大模型为代表的技术正迈入从高速增长向高质量增长转变的全新发展阶段，这对其自身安全性和可靠性提出更高要求，也衍生出新型风险与挑战。这类风险更加复杂且隐蔽，只有建设数字安全生态协作系统，政、产、学、研各方紧密合作，共同建设可可控的数字安全屏障。”

1.关于CSA

CSA（云安全联盟）创立于2009年，是世界领先的权威国际产业组织，共有成员单位上千家。CSA致力于定义和提高业界对云计算和下一代数字技术安全最佳实践的认识和全面发展，凭借敏捷性、中立性、专业性被各界认可。CSA GCR（云安全联盟大中华区）是CSA全球四大区之一（其它三者为美洲区、亚太区、欧非区），立足中国，作为国际桥梁联接世界，致力于构建国际数字安全的生态体系。此次AI安全工作组的成立，也将发挥国际桥梁作用，使我国AI安全研究成果在全球范围内产生影响。

昨天新成立的CSA大中华区AI安全工作组由国内30余家企业、高校与科研机构联合发起，其中中国电上海研究院、蚂蚁集团担任联席组长单位，召集联盟内AI相关的产业上下游企业、高校、研究机构、用户单位等共同研究AI安全前沿技术。另外从昨天的现场也得知，AI安全工作组将聚焦目前突出的安全风险问题，输出AI内生安全、衍生安全、助力安全等领域的白皮书、产业知识图谱、团体标准、系统框架、解决方案等，为整个行业提供一个清晰、系统的AI安全研究框架。根据计划，工作组先期将输出《AI安全白皮书》《大模型安全研究报告》《AI数据安全评估规范》等研究成果。

2.科技与理念都要与时俱进

虽然直观上感觉科技发展与道德或法律无关，但历史不止一次的表明，没有约束的科技往往都会用于作恶，而且导致的后果可能极难处理。既然如此，在科技发展之初就先来道保险不失为明智之举。现在日新月异的AI技术明显也是“双刃剑”，它既能为千行百业的发展赋能，也会在诸多层面构成威胁。昨天的论坛上，与会嘉宾表达了一致的观点，并提出了建设性意见。

CSA大中华区主席李雨航院士“发展与安全是前进的双轮，AI技术的研发既不能因噎废食，也不能坐视安全不顾。优秀的方案应该成为全球的样板。”

民生银行首席息官张斌“当前开放银行、智慧银行、场景金融等数字金融服务迅猛发展，金融机构应尽快建立与之配套的数字安全防御体系，驱动金融业务更好、更快、更稳健发展。”

国家金融与发展实验室副主任杨涛“让金融更安全地拥抱科技，一方面要解决科技企业与金融机构建立‘各司其职、风险自担’的合作边界问题，另一方面完善金融科技生态与夯实基础要素。”

中国电研究院副院长、云网基础设施安全国家工程研究中心常务副主任李安民“面对日益复杂的云网安全威胁，积极探索AI安全、Web3框架下的安全技术及其创新应用，才能帮助数据隐私、交易可和网络稳定。”

中国网络空间安全协会副秘书长徐倩华“发展的前提是安全，这需要各行各业形成筑牢安全防护屏障的共识，注重培养顶尖安全技术人才，贯彻落实相关法律法规，共同提升数字安全防护能力，确保健康可持续发展。”

蚂蚁集团机器智能部总经理、蚂蚁安全实验室首席科学家王维强“针对AIGC与大模型的安全问题，蚂蚁集团基于近十年的可AI沉淀，逐步构建‘大模型安全检测与防御’的一体化解决方案，以保障大模型在生产和使用过程中更加安全、可控、可靠。目前已发布‘蚁鉴’AI安全检测平台。同时蚂蚁集团基于安全基座模型能力，持续升级全方位全链路的智能风控防御体系，与生态伙伴们一起解决新AI时代的安全科技难题。”

前面说过，CSA大中华区立足中国，作为国际桥梁联接世界，致力于构建国际数字安全的生态体系。同时该组织也致力于研究和编制与AI安全相关的技术安全威胁和风险、AI数据安全与隐私保护、AI技术助力安全应用、AI的伦理和AI合规等方面的材料，围绕以AI安全为核心的各种AI技术威胁、风险、防护以及其他相关问题展开研究工作。面对着前所未见的AIGC与大模型，发挥其特长，利用其价值的同时，安全与合规问题也时常在各种场合中被提及。虽不至于说是达摩克利斯之剑，但小心驶得万年船总是没错的。