点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:探索新路径 筑牢AI产业安全根基
首页> 科技频道> 人工智能 > 正文

探索新路径 筑牢AI产业安全根基

来源:经济参考报2025-03-03 09:02

  近来,DeepSeek遭到黑客持续攻击,侧面反映出国产大模型面临的安全困境。

  不可否认,以DeepSeek为代表的中国开源大模型的崛起,不仅降低了大模型训练和部署的成本,加速了人工智能技术的普及,也打破了技术封锁与商业壁垒的双重禁锢,推动人工智能行业走向更加开放的新时代。但是,如同一把双刃剑,作为开源大模型,DeepSeek同样需要面对所有开源软件共同的安全挑战:由于源代码开放,开源软件的安全问题比闭源软件更加复杂,攻击者可以自由查看、修改源代码,进而引发潜在的安全漏洞。

  这并非杞人忧天,DeepSeek的遭遇就证实了这个规律:一方面,来自外部的网络攻击持续时间长、破坏力大、手段多、变化快;另一方面,在部署和应用中发现的漏洞,暴露出多种安全风险。

  有鉴于此,2025开年以来,各家安全公司严阵以待,纷纷探索新路径、新范式,以筑牢网络安全防线,为国产大模型保驾护航。

  比如,亚信安全与亚信科技近日联合发布的大模型安全解决方案,其思路可以归纳为“以人工智能护航人工智能”,不仅融合了亚信科技大模型产品在重点行业领域的丰富实践经验,而且依托亚信安全在大模型安全领域的研究成果和技术实力,打造了兼具实战需求和大模型发展要求的安全解决方案,由云安全防护系统、大模型安全网关、终端数据防护系统、AI应用风险防护系统四大系统提供防护,为大模型建立起覆盖基础层、模型层、工具层和AI应用层的四层纵深防护。与此同时,该方案还提供两项专业服务,即人工智能风险评测和人工智能安全服务,定期进行风险评测评估,护航大模型及应用安全。

  今后,随着越来越多应用场景的落地,国产大模型仍将面临层出不穷的新风险。大模型安全不应该只是“亡羊补牢”,更应该未雨绸缪,重构安全体系。

  对此,多位受访专家表示,应重视大模型在安全架构、漏洞响应、数据合规等方面的“系统性短板”,从多个层面入手,综合运用多种手段,打造全方位、多层次的安全防护网络,尤其是要建设大模型的“原生安全”能力。

  更为重要的是,大模型在安全领域的应用潜力巨大,凭借其卓越的推理能力、定制化的训练方式和开源特性,能够有效提升各种安全任务的执行效率和准确性。因此,探索大模型在安全领域的创新应用、以大模型治理大模型安全问题成为重要方向。

  业界已经形成共识,大模型是一个覆盖多行业的交叉生态系统,大模型安全风险的综合治理不仅仅只是技术问题,需要政府、企业、科研机构等多方力量参与其中,群策群力,夯实国产大模型发展的基础,打开思路为人工智能产业保驾护航。(吴蔚)

[ 责编:肖春芳 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 解放军驻澳门部队举行第十九次军营开放活动

  • 新疆为保护世界级非遗《玛纳斯》的立法正式实施

独家策划

推荐阅读
第137届广交会第三期“美好生活”5月1日开幕,12043家企业参展。
2025-05-01 17:55
BEST装置,紧凑型全超导托卡马克核聚变实验装置。
2025-05-01 17:52
杨永修有多个头衔,“全国五一劳动奖章”获得者、“中国青年五四奖章”获得者、全国技术能手、中国一汽首席技能大师……五一前夕,他被授予“全国劳动模范”荣誉称号。
2025-05-01 17:41
“当患者因我们的药多了一份生活的希望,那所有辛苦的日夜就有了意义。”贝达药业股份有限公司质量工程师高娅琴在接受采访时说道。
2025-05-01 17:40
21世纪初始,随着城镇化的发展,全国各地的建筑高度被一再打破。如何在保证超高建筑结构安全的同时提高建造效率,成为业界亟待破解的难题。
2025-05-01 17:32
美国的政策变化不仅影响本国科研,也导致许多国际科研项目中断或面临中断风险,对全球科研合作造成重大伤害。
2025-05-01 17:28
“对服装面料而言,防水和透气本是矛盾体,但我们采用高分子膜贴合技术,做到了既防水又透气。包括上述小程序在内,柯桥织造印染产业大脑已集成190多个应用,入驻企业4000多家,注册工程师11万多人,接入生产核心设备3万多台套。
2025-04-30 09:00
轻舟,顾名思义,以个头小、重量轻为最大特点。轻舟货运飞船副总设计师吴会英告诉记者,轻舟重量约5吨,目前的上行运力为1.8吨以上,下行为2吨。装载容积约9立方米,货物舱的体积为27立方米,可搭载航天员生活物资、科学实验设备、科学载荷等。
2025-04-30 05:10
4月29日4时10分,我国在文昌航天发射场使用长征五号乙运载火箭/远征二号上面级,成功将卫星互联网低轨03组卫星发射升空,卫星顺利进入预定轨道,发射任务获得圆满成功。
2025-04-30 05:10
近日,我国天都一号通导技术试验星成功完成白天强光干扰条件下的地月空间激光测距技术试验,在国际上首次打破地月空间卫星激光测距仅能在夜晚作业的时间限制,标志着我国在深空轨道精密测量领域取得技术新突破。
2025-04-30 05:10
搭载该模型的AI手机、智能屏幕、陪伴机器人“AI智伴小熊”等产品,为用户带来更加个性化、智能化的生活体验。
2025-04-30 09:04
(夏婷,中国科协创新战略研究院创新环境研究所副所长、副研究员)
2025-04-29 12:58
北京正推进“超高清入户行动”,推进有线电视超高清机顶盒全面置换,“计划于6月底完成标清机顶盒的置换目标”。
2025-04-29 09:10
脂肪组织中隐藏着一群脂肪细胞祖细胞,它们负责制造新的脂肪细胞。更令人惊讶的是,随着年龄的增长,APC还会进化成一种更为强大的“超级工匠”——年龄特异性定型前脂肪细胞(CP-A)。
2025-04-29 09:51
近日,中国农业科学院农业质量标准与检测技术研究所(以下简称“质标所”)农业环境污染物研究室成功研发出全球首套面源污染智能监测系统。
2025-04-29 09:50
一位老人站在秧田里,大喊一声“拔秧哦”,弯腰拔起第一把秧苗。众人齐声应和,大声喊:“风调雨顺,五谷丰登。”秧田里,一排人将秧苗拔起,担到打过格子的稻田里,整整齐齐插好。
2025-04-29 06:30
2024年,全国生态环境质量持续改善,环境安全形势保持稳定,公众生态环境满意度达91.24%,连续4年超过90%。
2025-04-29 09:07
把青春奋斗融入党和人民事业,青春才会绽放绚丽光彩。
2025-04-29 09:28
加载更多