昨日上午，粤港澳大湾区生成式人工智能安全发展联合实验室珠西中心、珠海服务站揭牌仪式在珠海具身智能创新中心举行。 主办方供图
昨日下午，粤港澳大湾区生成式人工智能安全发展联合实验室福田服务站启用暨AI出海研讨会在深圳福田华强科创广场举行。 主办方供图
随着2026年APEC峰会花落深圳，APEC“中国年”序幕随之拉开。1月6日，以“把握APEC机遇 扬帆新蓝海”为主题，粤港澳大湾区生成式人工智能安全发展联合实验室福田服务站启用暨AI出海研讨会在深圳市福田区华强科创广场举行。
同日，粤港澳大湾区生成式人工智能安全发展联合实验室珠西中心、珠海服务站揭牌。
联合实验室珠西中心、珠海服务站：立足珠海优势 打造跨境服务枢纽
昨日，粤港澳大湾区生成式人工智能安全发展联合实验室珠西中心、珠海服务站揭牌仪式在珠海具身智能创新中心举行。这是联合实验室推动人工智能安全发展力量下沉至基层的关键举措。
多重优势叠加 服务粤港澳AI产业
在揭牌仪式上，广东省委网信办负责同志致辞表示，珠海凭借港珠澳大桥桥头堡的区位优势，在人工智能领域敢为人先，生成式人工智能大模型备案数量位居全省第三，尤其在低空经济、智能终端等特色领域形成了独特优势。联合实验室在珠海设立服务站，正是要立足这一独特优势，打造粤澳AI跨境安全服务枢纽，为珠江西岸人工智能产业发展筑牢安全屏障。
这份创新的底气，源自多重优势的赋能。珠海市领导致辞表示，珠海发展人工智能产业优势独特、基础扎实，拥有全省领先的创新生态，全社会研发投入强度达4.57%，每万人口发明专利拥有量超215件，引育50家大模型企业，8个大模型通过备案居全省第三；坐拥唯一陆桥连接港澳的区位优势，便于深化三地技术协同、标准互认；集聚10所高校，3所985本科起点办学高校居全省之首，并有14万在校大学生提供充沛人才支撑。去年12月9日，珠海成立全国首个人工智能发展局，发放5亿元算力券，发布216个应用场景，全力为产业发展保驾护航。接下来，珠海将全力做好服务保障，希望珠西中心能成为制度创新的“探路者”，为人工智能安全治理探索珠海路径；成为协同创新的“枢纽站”，促进粤港澳三地技术互鉴、标准互通；成为产业赋能的“加速器”，推动人工智能安全技术深度赋能实体经济。
“我们尤为关注其创新发展与安全保障的协同推进”，澳门特别行政区政府个人资料保护局相关负责人致辞表示，我国已构建起兼顾安全与创新的治理体系，既划清红线，也留足创新空间。粤港澳大湾区是个人信息跨境流通试点，粤港澳大湾区生成式人工智能安全发展联合实验室珠西中心、珠海服务站揭牌，正是国家战略的区域性贯彻落实。
7家企业获大模型备案证书
在加速AI产业高质量发展的同时，安全治理始终是根本。据了解，珠海已构建起“政策引导、技术攻坚、企业集聚”的全方位可信AI治理体系。截至目前，珠海（含横琴）通过国家网信办大模型的备案8款、登记2款，仅次广深、稳居广东省各市前列。
当天活动现场还为最新一批大模型备案企业颁发证书，7家企业获颁“生成式人工智能服务备案证明”。珠海金山办公、广州视源股份、中国通信服务香港等粤港澳企业代表，共同签署《粤港澳大湾区人工智能安全发展企业家倡议》；来自粤港澳地区、就读于珠海高校，奇点智创科技、香港爱诺科技、袍泽信息科技、理创时代科技、中山大学Blue Hub科创班等青年创业者代表，还联合签署《粤港澳大湾区人工智能安全发展青年创业者倡议》。
聚焦三大方向 打造AI跨境安全服务枢纽
活动现场举行了粤港澳大湾区生成式人工智能安全发展联合实验室珠西中心、珠海服务站揭牌仪式。据悉，珠西中心、珠海服务站将重点聚焦筑牢跨境安全协同防线、赋能特色产业安全发展、构建开放创新生态体系三个方向发力。具体举措包括探索粤澳AI监管规则互认、跨境数据安全流通机制；针对性开展无人机、无人船等装备的AI安全评测与风险防控、助力珠海“云上智城”建设安全合规推进；搭建“AI安全+行业场景”对接平台；常态化开展人工智能安全交流活动等。
活动还设置了人工智能出海主题分享环节，深绎未来科技、陆兮科技、烁谷科技、博特智能等企业嘉宾聚焦大模型出海实践、主权级可信AI发展、AI语音助力内容出海“降本增效”、人工智能安全业务的海外应用场景等议题，分享实操经验与前沿见解，为湾区AI产业出海注入新思路、新动能。
据悉，此次活动由粤港澳大湾区生成式人工智能安全发展联合实验室主办，联合实验室珠西中心、珠海高新区、珠海科技产业集团、珠海电信、珠海市网络空间安全协会承办，广东省网络数据安全与个人信息保护协会、南方都市报社、珠海移动、珠海联通、中国计算机学会珠海会员活动中心协办。
联合实验室福田服务站：围绕企业共性需求 提供集中规范稳定服务
在粤港澳大湾区生成式人工智能安全发展联合实验室（以下简称“联合实验室”）福田服务站启用暨AI出海研讨会上，联合实验室现场发布“2026年度AI安全十大趋势”，“政产学研用”聚焦AI出海国际环境、政策风险以及安全挑战，共议大湾区AI出海新未来。
此次活动由粤港澳大湾区生成式人工智能安全发展联合实验室、中共深圳市福田区委员会主办，福田区委统战部（台港澳局、侨务局）、福田区人工智能产业办公室、联合实验室福田服务站、深圳（福田）海联大模型和算法赋能服务中心、广东省网络数据安全与个人信息保护协会承办，南方都市报社、华强科创广场、深圳市人工智能行业协会协办。
联合实验室福田服务站正式启用
当前，人工智能正在加速重构产业格局，安全已成产业高质量发展的生命线。广东始终坚持“在安全中促发展，在发展中保安全”的辩证思维，推动构建“技术协同+敏捷治理+传播服务”的全新治理新范式。
粤港澳大湾区生成式人工智能安全发展联合实验室是适应人工智能时代敏捷、弹性、高效的创新治理联合体，由广东省委网信办和国家互联网应急中心广东分中心联合牵头，粤港澳大湾区相关部门、企业、高校、科研机构、媒体等共同参与建设，运行主体常设在河套深港科技创新合作区深圳园区。
在当天活动上，省委网信办、联合实验室相关负责人，以及深圳市福田区、市委网信办、市工信局等单位相关负责人共同为粤港澳大湾区生成式人工智能安全发展联合实验室福田服务站揭牌。这是联合实验室将人工智能安全治理力量下沉至基层的创新之举，也是深圳构建“安全与发展并重”AI产业生态中迈出的关键一步。
2025年初开始，深圳市福田区依托联合实验室技术指导与专业支撑，联手打造深圳（福田）海联大模型和算法赋能服务中心（简称赋能中心）。深圳市福田区委相关负责同志在致辞中表示，服务站将与中心一体化运作，重点围绕备案辅导、安全测评、合规咨询、政策传递等企业共性需求，提供更集中、更规范、更稳定的服务窗口，帮助各类创新主体更好理解规则、更快通过审核、更稳开展业务。
据介绍，联合实验室福田服务站将承担大模型和算法备案辅导、安全评测、合规培训、政策宣贯等职能，为企业提供“一站式、全周期、零距离”的专业支持。一方面要强化节点效能，打造大湾区人工智能安全治理的关键支点，另一方面聚焦产业拉动，构筑发展与安全互促的示范平台，深化前瞻探索，贡献可复制可推广的“湾区智慧”。
此次活动上，省委网信办、深圳市福田区相关负责人共同为福田区8家备案大模型企业颁发“生成式人工智能服务备案证明”。
共议对标国际规则赋能AI安全出海
那么，如何把握人工智能安全趋势以及APEC机遇，对标国际规则，应对AI出海安全风险？在活动上，中国现代国际关系研究院科技与网络安全研究所所长、研究员李艳，香港中文大学（深圳）人工智能学院终身副教授、助理院长吴保元等学界专家，聚焦AI出海的国际形势、安全挑战等议题进行主题分享，与“政产学研用”代表共话湾区AI出海新未来。
在李艳看来，AI出海国际环境与政策风险的“主源”在技术与地缘政治叠加影响下的科技战。她针对AI出海提出一些思考建议，包括要跳出纯“市场”思维，事前评估有足够综合的考虑维度，市场选择始终是符合“投资”规律，而且产品定位至关重要，要辩证看待风险等。
而对于AI出海的安全挑战与对策，吴保元教授表示，数据隐私问题不仅仅出现在大语言模型，也出现在视觉大模型，比如扩散模型，就能很轻易生成原始训练数据。此外，作为特殊的数据载体和重要数据资产，AI模型及其相关数据属于跨境数据规定的监管范畴，而AI生成内容是否合规，与法律法规、历史文化、宗教习俗、地域特点高度相关，需要根据出境目的地要求设置个性化的AI生成安全护栏。
AI安全十大趋势
全球AI合规框架加速协同与落地
开源模型滥用风险与监管博弈加剧
对抗攻防将进入高维博弈阶段
AI智能体安全风险引发监管与责任新考量
AI武器化拓展网络攻击新战场
AI安全治理走向全生命周期可信化
AIGC原生安全架构成为基础设施标配
AI对齐研究与实践提速
内容真实性治理成为数字社会基础秩序
算力扩张推动“AI-能源耦合”成为国家安全议题
预测
政策、风向与风险！AI安全十大趋势发布 AI安全治理正从“局部防护”转向全生命周期可信化
1月6日举行的粤港澳大湾区生成式人工智能安全发展联合实验室福田服务站启用暨AI出海研讨会上，联合实验室发布了《2026年度AI安全十大趋势》白皮书。白皮书以政策合规、风险与治理、趋势研判为核心板块，系统预测2026年AI安全关键方向，为行业发展与监管实践提供重要参考。
政策 合规框架落地，开源监管博弈加剧
《2026年度AI安全十大趋势》白皮书政策篇聚焦两大核心趋势，分别是全球AI治理体系落地与开源模型监管博弈。白皮书指出，2025年是AI治理从“原则倡导”转向“制度落地”的转折点，合规能力已成企业核心竞争壁垒与国际合作基础，开源模型的监管博弈将长期贯穿技术创新与风险防控。
第一个趋势指向全球AI合规框架加速协同与落地。白皮书以中国、美国、欧盟举例，明确三者形成差异化却同向的核心治理框架，推动AI监管从“软性建议”转为“准入前置”。三大框架均以“可审计、可问责”为核心要求，报告预测未来这一能力将成为AI系统进入金融、政务等关键行业的核心门槛，合规缺失者将失去市场准入资格。
另一个值得关注的趋势是开源模型滥用风险与监管博弈加剧。2025年AI开源模型生态爆发式增长，虽降低技术应用门槛、推动创新扩散，但自由下载、微调及部署的特性，为恶意利用提供了可乘之机。报告指出开源平台正通过强化审核、引入行为监控、建立开发者信誉体系防控风险。但监管层面仍存争议。报告强调，未来开源模型治理将长期处于“鼓励创新”与“防范风险”的动态博弈，相关主体需持续平衡技术发展与安全合规。
风险 攻击手段复杂化、风险场景多元化
白皮书在风险篇中指出，当前AI安全面临三大核心挑战，风险演化呈现“攻击手段复杂化、风险场景多元化、危害影响扩大化”特征。
趋势三指出在对抗攻防领域将进入高维博弈阶段。攻击者利用多模态、多轮次系统化手段，通过文本、图像植入扰动诱导模型出错，使安全问题升级为“复杂系统鲁棒性”。研究显示，经诗歌等形式改写的恶意指令在多个主流模型上攻击成功率超过90%，传统提示过滤技术难以应对。
与此同时，AI智能体安全风险引发监管与责任新考量这一趋势随之产生。目前国际社会对其缺乏统一定义与监管标准，在金融、企业内部等场景中，身份认证与权限边界趋于模糊，责任归属尚不明确。我国已布局“智能体即服务”，未来需通过规则完善引导其可控发展。
除以上两点外，趋势五聚焦危害扩大化这一领域，指出AI武器化拓展网络攻击新战场。深度伪造与生成式AI结合使其成为新型网络武器。数据显示，2024年全球约67.4%的网络钓鱼攻击采用AI技术，实现诈骗脚本自动化与信息精准收集；具身智能更推动攻击从数字域延伸至物理世界。面对传统防御失效，构建“AI对抗AI”的自动化防御体系已成为必然需求。
趋势 AI安全治理从被动防护到主动应对
白皮书认为，针对AI智能体的监管与治理框架仍处于探索阶段，现行人工智能政策体系尚未完全覆盖其自主性带来的新型风险。但白皮书在趋势篇也强调，AI安全正从“被动防护”转向“主动构建”。全生命周期治理筑牢安全基础，原生安全架构成为标配，对齐研究破解核心难题，内容真实性治理夯实信任底座，“AI—能源耦合”上升为国家战略，五大趋势共同塑造AI安全新生态。
趋势六是AI安全治理走向全生命周期可信化。在AI治理的环节层面，白皮书强调，AI安全治理正从“局部防护”转向全生命周期可信化。国际社会正通过NIST风险管理框架、ISO/IEC42001认证及欧盟《人工智能法案》等，将治理覆盖从设计到部署的全过程。
在模型层面，趋势七指出AIGC原生安全架构成为基础设施标配。为应对模型幻觉、隐私泄露等显性风险，安全能力需深度嵌入模型输入、推理与输出各阶段，实现从“外部加固”到“内生自控”的转变。白皮书预测，未来AIGC安全将与网络安全、数据安全并列成为核心基础能力。
此外AI伦理也被提及。在趋势八就指出AI对齐研究与实践提速。白皮书写道，AI对齐研究是破解安全核心难题的关键。尽管面临“弹性回退”等实践挑战，但该研究正从学术探索加速转向工程实践，直接影响AI系统的安全性与社会接受度。
趋势九为内容真实性治理成为数字社会基础秩序。报告认为，内容真实性治理正成为数字社会的信任底座。为应对深度伪造的冲击，各国正通过立法与技术溯源双轨并进，推动治理迈向基础设施级建设。
最后，白皮书指出，趋势十为算力扩张推动“AI-能源耦合”成为国家安全议题。当前，发展“绿色算力”、推动AI与能源系统双向赋能已成为各国共识。但报告提醒，电力扩容滞后、碳中和张力等风险仍存，需加强跨部门协同，平衡技术发展与能源约束。
出品：南都大数据研究院
统筹：王卫国 邹莹 凌慧珊
采写：南都记者 张雨亭 袁炯贤 陈袁 南都研究员 李伟锋 唐静怡 孔令旖