启明星辰出席第40次全国计算机安全学术交流会,解码大模型应用安全新蓝图

用户头像
启明星辰(SZ002439)
   

9月25日,由天津市公安局指导、中国计算机学会主办的“第40次全国计算机安全学术交流会”在天津成功召开。启明星辰(002439)出席大会“关基保护与人工智能安全”分论坛,同与会人士围绕人工智能安全新思路、新技术、新机制展开深入探讨。

会上,启明星辰集团技术总裁、首席战略官潘柱廷在《解码大模型应用安全新赛道》主题演讲中系统阐述了启明星辰在大模型应用安全领域的战略布局,创新性地提出通过智能体集群路径推动网络安全防御体系的升级,深入剖析了大模型对安全行业带来的范式革新。

潘柱廷指出,网络安全历来强调全面防御,但在实际落地过程中,全面覆盖往往面临高成本与执行难度大的挑战,因此,需要采用以“偏”概“全”的策略,在全维度分析的基础上,找到具有产业价值与技术可行性的切入点。具体而言,在构建防御体系时,需覆盖“全客户、全网络、全数据、全过程、全场景”的保护对象,并结合“全技术栈、全范式、全周期”等技术手段,通过对因果核心环节的重点投入,实现安全效能最大化。

当前,大模型与安全呈现双路径演进:一方面,大模型赋能安全能力升级(AI for Security),增强威胁检测与风险预警的智能化水平;另一方面,大模型自身及其应用安全(Security of AI)问题日益凸显。为应对这一趋势,启明星辰自今年2月6日起以周为单位加速产品迭代,已构建“三件套+三服务+三基座”大模型应用安全产品矩阵,有效应对大模型深度渗透业务场景引发的安全范式变革,也成功验证大模型应用安全赛道的可行性与迫切性。

同时,潘柱廷还分享了对大模型应用安全未来发展的思考。他表示,大模型应用正逐渐演进为介于应用层与系统层之间的新层级,其安全需求具备系统化、专业化的特征。从科学范式演进看,大模型代表“第五范式”——参数密集型的AI大模型技术,与第二范式(模式分析和逆向分析技术)、第四范式(数据密集型的大数据和数据通层技术)结合,通过强化数据与模型协同,驱动技术与产品创新;面对智能体集群化趋势,需提前布局身份管理、行为协调与合规审计等安全机制,以应对多智能体协同带来的复杂挑战;在产学研协同层面,建议以“全范式”视角开展跨范式安全研究,聚力攻克身份穿透、数据共享与流程可控等核心难题。

在大会颁奖环节,启明星辰凭借在网络安全领域的突出贡献,以及长期以来对CCF发展工作的全面支撑,荣获“第40次全国计算机安全学术交流会特别贡献奖”;在CCF计算机博物馆藏品捐赠仪式上,启明星辰获赠捐赠证书,为CCF计算机博物馆的历史陈列注入了鲜活力量。

当前,大模型技术正加速向各行业深度渗透,其应用安全问题日益凸显。启明星辰将持续深耕大模型安全领域,以持续的技术创新强化核心能力,不断深化大模型安全能力建设,为人工智能时代的安全发展筑牢坚实底座。

来源:同花顺财经

为提升阅读体验,雪球对本页面进行了排版优化

风险提示:用户发表的所有文章仅代表个人观点,与雪球的立场无关。投资决策需建立在独立思考之上。