關注全球時事|洞察國際風雲
2025-03-18 17:24 星期二

筑牢智能体发展安全根基

时间:2025-08-14 09:05 来源:快讯社

在2025世界人工智能大会展览现场,工作人员在向参观者介绍全球首发首展的Q-Tractor P40 Plus升级版新能源无人驾驶牵引车。新华社记者 陈浩明摄

在位于北京亦庄的全球首家具身智能机器人4S店Robot Mall,观众正在观看阿尔法跳舞机器人。唐 克摄(中经视觉)

  今年以来,智能体成为人工智能领域的重要发展方向。智能体是指能够感知环境并采取行动以实现特定目标的代理体,可以是软件、硬件或一个系统,具备自主性、适应性和交互能力。智能体在人工智能领域广泛应用,常见于自动化系统、机器人、虚拟助手和游戏角色等,其核心在于能够自主学习和持续进化,以更好完成任务和适应复杂环境。

  在日前举办的第十三届互联网安全大会(ISC.AI 2025)上,智能体成为热议焦点。与会专家认为,随着人工智能发展进入下半场,智能体技术加速突破实验室边界,深度融入产业核心领域,日益成为驱动产业变革的关键引擎。

  AI不断进化

  中国信息通信研究院数据显示,目前全球人工智能企业超3.5万家,我国人工智能企业超5100家,全球占比约15%,产业规模持续壮大,形成覆盖基础底座、行业应用的完整产业体系。

  根据中国互联网络信息中心发布的第56次《中国互联网络发展状况统计报告》,2024年我国人工智能产业规模突破7000亿元,连续多年保持20%以上的增长率。

  2025年上半年,生成式人工智能产品实现了从技术到应用的全方位进步,产品数量迅猛增长,应用场景持续扩大。从用户方面看,截至6月份,用户利用生成式人工智能产品回答问题的比例最高,达80.9%。“人工智能技术加速迭代,人工智能领域创新呈现群体性突破之势,人工智能与实体经济深度融合特征更加明显。”中国互联网协会专家咨询委员会常务副主任赵志国说。

  随着我国人工智能领域持续发展创新,一批优质的国产人工智能产品加速出海,我国在人工智能领域的影响力显著提升。比如,DeepSeek上线不足20天,全球日活跃用户突破3000万人,成为全球用户增速最快的生成式人工智能应用。此外,我国已成为全球人工智能专利最大拥有国,占比达60%。

  北京市经济和信息化局副局长姜洪朝介绍,当前,以大模型为代表的人工智能技术发展迅猛,为实体经济数字化转型升级注入强劲动能。北京已聚集全国超40%的顶尖人工智能人才,人工智能企业突破2400家,核心产业规模近3500亿元。截至目前,累计备案上线大模型132款,全国占比超三成,稳居全国首位。

  360集团创始人周鸿祎认为,大模型能力越来越强,但仅有大模型是不够的。过去大模型在企业应用中的两大痛点即推理能力不足和缺乏独立做事能力,前者在近一年已显著改善,但后者仍未解决。大模型缺少“手和脚”,不会使用工具,不能直接干活。AI发展如果停留在大模型阶段,只能成为玩具,而非生产力工具。

  第十三届互联网安全大会名誉主席、教授邬贺铨认为,“智能体即服务”已成为互联网演进的核心标志,“用户主导操作”将转向“智能体自主执行+人类监督决策”,人从操作者转型为AI行为决策者。

  “大模型进化到智能体是必然的,智能体才是解决之道。它能够理解目标、规划任务、调用工具、具备记忆,实现从需求到结果的完整交付。其核心在于使用工具的能力和利用大模型进行复杂任务规划的能力。”周鸿祎说。

  网络风险加剧

  智能体黑客的出现加剧了网络攻防的不对称性,人工智能之于网络安全既是风险也是机遇。赵志国表示,人工智能和安全领域的结合日益紧密,不仅催生了为网络安全提供更具主动性和适应性的技术工具,更推动安全体系从被动防御向智能驱动重构,其“安全能力倍增器”的效应正加速显现。

  赵志国分析,技术革新的背后安全风险正交织叠加。具体来看,其一,技术脆弱性带来内生安全风险。现阶段人工智能技术创新以数据、算法、算力三要素共同驱动,数据的依赖性、算法的复杂性、算力的集中性等内在属性,使得模型幻觉、算法黑箱、数据可信等特有的安全风险更加凸显。其二,恶意利用放大安全危机。人工智能驱动的攻击手段正朝着智能化、自动化方向发展,在显著降低攻击门槛、提升攻击频率的同时,进一步增强了攻击的隐蔽性与变异性。深度伪造欺诈、自动化攻击、开源生态投毒等新型网络威胁日渐增多。其三,治理的复杂性日益凸显。人工智能技术的广泛使用、各行业各领域的应用推广以及多场景的深度渗透,使其安全治理涉及技术标准、法律法规、应用安全、伦理规范等多重维度,监管框架完善的速度仍落后于技术发展应用速度,治理难度与不确定性持续上升。

  周鸿祎认为,当前企业面临双重挑战,一方面,安全运营专家稀缺且培养周期长;另一方面,“智能体黑客”出现使攻防对抗进入“机器对机器”的新阶段,单个黑客可操控上百个智能体黑客,批量发起自动化攻击,加剧网络战风险。

  工业和信息化部教育与考试中心主任郝志强表示,随着大模型向具身智能演进,智能体技术正重构安全攻防体系。从被动防御转向主动免疫,从单点防护升级为全域协同。这一深刻变革,亟需以人才为根本、以创新为动力、以安全为基石,构建支撑数字中国建设的现代化能力体系。

  确保安全可靠

  推动AI技术和数字安全的融合发展成为助力数字化建设、提速数字经济发展的关键。第十三届全国人大社会建设委员会副主任委员、世界互联网大会秘书长任贤良表示,要在充分发挥人工智能潜力的同时确保其发展的安全性、可靠性、可控性和公平性,使其成为守护安全、造福人类的国际公共产品。

  任贤良认为,目前全球数字技术发展存在不平衡现象,部分国家和地区数字基础设施建设薄弱,能力建设滞后,不仅难以享受互联网发展的福利,也在面对网络安全攻击时暴露出更大的脆弱性。各方应拥抱人工智能发展机遇,积极参与人工智能的发展和治理,并通过开放合作促进全球数字基础设施均衡发展,利用技术转移、能力建设、制度协同,为发展中国家和地区提升网络安全的防护水平,用数字普惠保障网络安全。

  邬贺铨建议,要深化行业大模型协作,破解“最后一公里”难题;加速大模型技术创新与架构演进,提升效率与可及性;创新升级数字安全防护体系,构建AI驱动的主动免疫;深化国际合作,共建开放、包容、安全的数字未来。

  面对日益严峻复杂的威胁态势,传统被动、碎片化的安全防护已力不从心,亟需根本性变革。安全能力必须加速向云端迁移和服务化转型,实现弹性扩展与按需交付,让安全即服务成为保障数字世界的坚实屏障。数字安全企业应着力构建覆盖预测、防御、检测、响应、恢复全生命周期的体系化安全运营框架,整合流程、人员与技术,形成闭环能力。更为关键的是,要充分利用AI尤其是大模型的强大能力,赋能威胁狩猎、异常检测与自动化响应,推动安全防御从“事后补救”向“事前预警、事中阻断”的主动免疫模式跃升。

  “人工智能和安全领域结合日益紧密,要坚持技术创新,筑牢安全发展根基;坚持融合赋能,壮大产业发展生态;坚持协同共治,形成安全发展合力。”赵志国说。

  周鸿祎介绍,360推出的安全智能体基于安全大模型这颗“大脑”,为其增添了“手和脚”,尤其是L4多智能体蜂群,可实现对人类高级安全专家能力的复刻。360正推动全线产品智能体化,致力于用安全智能体重塑数字安全。

  “安全是数字化的底座,AI是数字化的顶峰。360将继续坚持‘安全+AI’双主线发展,用安全守护时代,用AI定义未来。”周鸿祎说。


外交部:将本着科学原则研究日方关于恢复水产品输华请求
外交部:坚决反对美国向中国台湾地区出售武器
测试视频
综合看点 查看更多>>
冲绳县知事要求重新审视日美地位协定
以色列总统正式授权埃森科特组建新政府
法国新一轮示威游行全国至少57.5万人上街
以议会选举结果正式公布 两大阵营均未获多数席位
第四届明斯克欧亚安全国际会议呼吁以合作应对失序
纵横天下 查看更多>>
民调:82%德国人不满默茨执政表现
秘鲁多地实施紧急状态应对厄尔尼诺
特朗普称弹劾他会“摧毁”民主党
美国举行中期选举投票 特朗普政府迎来“期中考试”
从“中文热”到“留学热”,印尼学子向往赴华求学
起底日本右翼“文化投毒”的四种手法
COP31将在土耳其安塔利亚举行
中东欧四国总统峰会在斯洛伐克举行
美国9月贸易逆差维持在相对高位
探访“为伊朗捐躯”军事训练
古特雷斯警示“极端气候新时代”
南非地方选举计票结束 非国大保住第一大党地位
中外代表共话人工智能时代的全球传播治理合作
美民主党重掌国会 特朗普执政承重压
日本宪法公布80周年 国会前响起和平呼声
2026年网络峰会开幕 中国科技力量受瞩目
我国3项档案文献遗产入选《世界记忆亚太地区名录》
世界媒体峰会代表体验北京“西城之夜”
党的二十届五中全会《决定》诞生记
人民空军成立77周年纪念日系列活动拉开帷幕
第43次南极考察丨“雪龙”号穿越赤道进入南半球
世界各大媒体“掌门人”为何齐聚北京
在“活力中国调研行”中感受高水平对外开放定力
中国品牌亮相第83届米兰国际两轮车展
2026全球熊猫伙伴大会聚焦中国绿色发展之路
“文明互鉴国际论坛2026”在澳门开幕
第九届进博会丨港澳台企业透过进博会“链全球”
澳门爱国社团家乡市集嘉年华揭幕
“2026数码港创业投资论坛”在港启动
三季度香港本地生产总值预估同比增长5.2%
西渝高铁北碚天府嘉陵江特大桥顺利合龙
努力让这条母亲河越来越美——写在党领导人民治黄80年之际
铁路12306上线新功能 买团体票更方便
西藏巴青:架设安置板房供电线路
台风“蔷琵”向我国靠近 中国气象局启动四级应急响应
个人信息是怎么“失窃”的
人民陪审员法实施以来陪审员参与审结案件1550万件
推动新能源车险从“政策驱动”走向“法治定型”
全国人大常委会开展海南自由贸易港法执法检查 法治护航海南自由贸易港建设
公安部网安局发布拒不履行信息网络安全管理义务案例
甘肃静宁:山地梯田保墒覆膜忙
甘肃文县蜜橘丰收
内蒙古:机械化作业奏响秋收乐章
河南灵宝:苹果丰收采摘忙
湖南:秋粮收获金秋时
河南这三味药,凭什么“出圈”?
优质医疗服务来到家门口
桑拿天比暴晒天更易中暑:藿香正气水、退烧药、掐人中不管用,还会加重病情
“超慢跑”火了,不累还能“暴击”内脏脂肪!还没试过就亏大了
国家卫生健康委关于修改和废止部分部门规章的决定(附解读)
前沿科技 查看更多>>
快舟六号火箭预计2027年完成首飞及回收
中国空间站造出的已知最冷物质有什么用
算力成光纤行业第一增长引擎
我国实现世界首次舱外激光“微创”试验
“人工智能乌镇对话”:共话开源开放发展
健康生活 查看更多>>
第九届进博会|看银发“黑科技”如何解锁智慧养老
智能控制,有多智能?
智能互联网让智能体既“连得通”又“信得过”
基础研究新局
60秒看国产新一代医用重离子加速器首台示范装置
实用技术 查看更多>>
长十二火箭成功发射卫星互联网低轨29组卫星
全球最大液态空气“充电宝”并网发电
中国科学院院士赵继宗:脑机接口稳定性需接受五年大考
2025年我国新型显示产业营收超8000亿元
2026年世界互联网大会领先科技奖颁奖典礼举行
科普博览 查看更多>>
在进博会上感受人工智能产业新脉动
智能向实 人才向新 合作向深——从2026自动化大会看产业新趋势
6G,有啥不一样
有色金属成为“算力基石”
北京全链条扶持智能眼镜消费
国博为九龙九凤冠单独办展
第七届荆楚乡村文化旅游节启幕
乐舞传情 交流互鉴——中外艺术家共赴敦煌之约
衣冠里的苗家文化
罕见明代纸胎点翠凤冠正在复原
教育部、公安部、农业农村部部署实施服务乡村振兴高校招生专项计划
教育部发布秋招季求职预警:勿信“花钱能买好工作”
京雄首次组团式教师轮岗实训正式启动
培养一技之长 超八成受访青年尝试学门手艺
全俄大学生中国语言文化知识大赛决赛举行
青奥会——体操:中国男团夺冠
中超综合:5轮连追14分 大连英博惊天逆转夺冠
举重比赛的加重员,只是给杠铃“加片儿”吗
国家田径集训队在广西南宁冬训
小科普:达喀尔青奥会游泳比赛为何在露天泳池进行?
呼伦湖进入封冻期 现“冰浪”奇观
广西:多彩文旅嘉年华
立冬将至,各大滑雪场陆续开板啦
宁夏文旅何以“逆袭”
湖南张家界:云涌千峰 天梯入画