启明星辰发布MAF大模型应用防火墙产品,提升DeepSeek类企业用户安全

2月7日,启明星辰面向DeepSeek等企业级大模型业务服务者提供的安全防护产品——天清MAF(Model Application Firewall)大模型应用防火墙产品正式发布。

一个新赛道将被开启……

DeepSeek的低成本引爆赛道规模

随着DeepSeek成为当前最热的现象级产品,中国企业级大模型市场将迎来爆发。DeepSeek模型对“中国企业级私有化大模型发展趋势的预测”,做出了如下回复:

1、垂直行业模型即服务(MaaS)生态成型:到2026年将形成覆盖30+重点行业的基准模型库,能源、法律、医疗等领域的专用模型参数规模将突破500亿级别。

2、边缘-云协同架构普及:5G+边缘计算推动分布式模型推理部署,预计2025年60%的制造企业将采用车间级边缘模型节点+总部云脑的混合架构。

3、国产化技术栈闭环:中国将形成从训练框架到推理芯片的完整国产化替代方案。

4、智能体工程方法论成熟:企业级模型开发将向DevOps模式演进,出现专业的大模型MLOps平台,实现从数据治理到模型监控的全生命周期管理。

企业级大模型服务的广泛部署,安全风险也伴随而来,主要风险包括提示词注入攻击、大模型软件供应链漏洞、应用层拒绝服务攻击、敏感信息泄露&不安全的输出处理等。大模型的产业化、广泛可达的前提之一就需要有效解决上述各类风险。

在DeepSeek爆发之前,基于大模型的对外服务还多是“大厂”的势力范围;而DeepSeek的优秀品质和超低成本,使得能够基于开源的DeepSeek构建自身以大模型为核心的业务服务,成为了所有企业机构的可选项。简言之,DeepSeek的低成本让提供“基于大模型的业务服务”的机构数量暴增。进而也使得“大模型安全”的需求,从少量“大厂”的内化需求,变成了一个可观的安全市场新赛道。

而在“大模型安全”这个新赛道中,以前的一些故事会再度重演:防火墙、IPS、WAF、WAAP等,现在轮到MAF —— “大模型应用防火墙”这个产品唱主角了。

MAF是从WAF进化来的新物种

本次启明星辰发布的“天清MAF大模型应用防火墙”是专注于为企业级大模型服务提供应用层安全防护能力的专属安全产品,是开拓新赛道的开创式产品。

MAF的产品承继了WAF产品的基本形态。从产品形态和功能角度看,MAF是沿着防火墙、IPS、WAF这一脉络,自然进化而成的。相比于WAF,MAF针对大模型所面临的特有威胁,拓展了专门的检测能力和防护功能。MAF不仅仅能防护DeepSeek大模型,也能防护其他语言大模型。MAF主要强化的功能包括:

一、越狱、提示词注入攻击防护

大模型服务面临的提示词攻击(Prompt Injection Attack)是当前生成式AI安全领域的核心挑战之一。攻击者通过精心设计的输入文本,诱导模型突破预设的安全边界,产生包括数据泄露、恶意代码生成、虚假信息传播等风险。天清MAF大模型应用防火墙通过对大模型服务包含的网页、手机应用及API访问流量的深度解析,并通过运行一系列基于人工智能的检测算法,识别提示词注入尝试和其他滥用行为,确保输入内容符合模型所有者定义的边界,实现对恶意提示词攻击的有效识别和防护。

二、大模型软件供应链漏洞防护

大模型服务作为大型IT应用/IT基础设施,其整个系统由大量开源/商业软件构成,这些软件不可避免地会出现逻辑漏洞,这些组件漏洞如果出现在大模型服务的暴露面,则可能会为攻击者提供传统的SQL注入、命令注入等攻击突破口。天清MAF大模型应用防火墙内置了国内领先的应用层防护规则/语义算法,并针对大模型软件供应链的主流组件提供了专属防护规则,为大模型服务提供虚拟补丁功能,有效防护各类针对大模型暴露面的软件漏洞攻击。

三、应用层DDos拒绝服务攻击缓解


大模型服务不但面临着传统的网络层拒绝服务攻击(启明星辰&中国移动可提供从骨干网清洗到本地抗拒绝服务网关等整套解决方案),还面临着特定的应用层拒绝服务攻击,如恶意批量注册、密码爆破、僵尸网络应用层脚本攻击等。天清MAF大模型应用防火墙针对上述应用层拒绝服务攻击,提供包括密码防爆破、BOT机器人流量识别和管理、客户端区域访问控制、终端/API限流保护等一系列功能,为大模型服务提供完整的应用层抗拒绝服务攻击能力。

四、不安全输出过滤&敏感信息防泄露

以DeepSeek为代表的新一代大模型已从模型训练层面部分规避了上述问题,但随着提示词工程、强化学习、检索增强生成等技术的广泛应用,企业大模型服务/智能体服务不可避免地面临额外的不安全输出及敏感信息泄露问题。天清MAF大模型应用防火墙通过对输入输出数据的全面解析,可有效识别、封堵、脱敏各类不安全输出或敏感信息输出,确保大模型服务合规运行。

MAF适配各种部署模式和业务场景

基于DeepSeek开源模型的业务部署模式会非常多样化。MAF大模型应用防火墙部署的逻辑位置,总是要保证在大模型访问接口之前。在云-网-边-地-端的基本空间架构下,云上部署、边缘云部署、本地网络部署都是可能的部署位置。下图展示了最典型的四种部署结构:

1、本地网络模型前硬件部署

2、本地网络模型前、应用界面后硬件部署

3、云上环境模型前部署

4、边缘云中路径部署(SASE环境等)

云上部署、边缘云部署的MAF产品,都可以提供运营服务保障。

MAF的一些一句话论断


1、MAF是低成本DeepSeek带来的成规模的新产品赛道;

2、MAF将成为AI大模型安全领域的第一个刚需和爆品;

3、MAF因大模型成为应用“前脸”的主流而成为应用安全的主流;

4、MAF可以防护DeepSeek,也可以防护其他大模型;

5、MAF的抗D能力比大模型服务器要强,但也需要运营商的抗D服务来保护;

6、MAF能有效防御提示词越狱攻击,但其也要走一个“魔高、道高”的对抗迭代过程;

7、MAF是可以用大模型来保护大模型的,但大模型的在线性能会低于其他方法;

8、MAF是全范式的,综合运用特征匹配和模式匹配(第二范式)、大数据分析(第四范式)、大模型分析(第五范式)来完成检测;

9、MAF是外挂式、外围式安全机制,可以避免与所保护的大模型深度定制,有较广泛的产品适应性;

10、MAF是外挂式、外围式安全机制,与大模型自身的安全训练、电子围栏等内生式、内置式安全机制是互补共存的关系;

11、MAF可以是产品,也可以是MAF安全运营服务;

12、MAF可以本地网络部署,也可以云上部署、边缘云部署(SASE);13、MAF可以部署于移动云,也可以部署于其他云化环境;

14、MAF的性能可以在云环境中弹性扩展;

15、MAF当下的形态不是最佳形态、最终形态,MAF还在进化中;

16、MAF是一个有价值的赛道;

... ...

MAF的未来

随着以DeepSeek为代表的国产大模型能力不断提升,企业级大模型服务也将成为“无处不在的企业基础设施”,为未来的社会智能化建设带来了巨大的推动力。

MAF大模型应用防火墙将成为大模型安全领域的第一个刚需和爆品。

从MAF未来的市场需求前景看,随着AI大模型继续发展,做大模型应用堪比做Web网站那么容易的时候;当前和过往以Web为应用“前脸”的格局将被颠覆,大模型将成为主流应用的核心和“前脸”。这时,MAF大模型应用防火墙作为WAF的进化新品,将成为应用防火墙AF的新主力产品。

从MAF未来的技术能力发展看,其技术增强至少有以下几个方向:


1、MAF用大模型来防护大模型,并让大模型与检测特征沉淀形成良性迭代以降低总体防御算力消耗;

  1. MAF将利用平行仿真(第三范式)来拓展其能力;
  2. MAF带宽和时延等性能指标,将决定了MAF的应用范围(比如,是否适合高实时要求环境);
  3. MAF对于多模态等非语言输入的大模型的防护是重要方向;
  4. MAF未来一定是一个联通安全大数据情报通层的互联智能体;

……

启明星辰将以天清MAF大模型应用防火墙产品为起点,提供完整的企业级大模型安全防护解决方案,助力各行各业打造更加智能、便捷、高效的大模型产品和服务,助力中国向实现社会普遍智能的目标迈进。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/967009.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

Excel大数据量导入导出

github源码 地址(更详细) : https://github.com/alibaba/easyexcel 文档:读Excel(文档已经迁移) B 站视频 : https://www.bilibili.com/video/BV1Ff4y1U7Qc 一、JAVA解析EXCEL工具EasyExcel Java解析、生成Excel比较…

Coze(扣子)+ Deepseek:多Agents智能体协作开发新范式

前言 在当今数字化浪潮中,人工智能(AI)技术的迅猛发展正深刻改变着我们的生活和工作方式。从智能语音助手到自动化流程机器人,AI 的应用无处不在,为我们提供了更加便捷、高效的服务。然而,对于非专业人士来…

Spring AI -使用Spring快速开发ChatGPT应用

前言 Spring在Java生态中一直占据大半江山。最近我发现Spring社区推出了一个Spring AI项目,目前该项目还属于Spring实验性项目,但是我们可以通过该项目,可以非常快速的开发出GPT对话应用。 本篇文章将会对SpringAI进行简单的介绍和使用&#…

Unity项目接入xLua的一种流程

1. 导入xlua 首先导入xlua,这个不用多说 2. 编写C#和Lua交互脚本 基础版本,即xlua自带的版本 using System.Collections; using System.Collections.Generic; using UnityEngine; using XLua; using System; using System.IO;[Serializable] public…

LM Studio 部署本地大语言模型

一、下载安装 1.搜索:lm studio LM Studio - Discover, download, and run local LLMs 2.下载 3.安装 4.更改成中文 二、下载模型(软件内下载) 1.选择使用代理,否则无法下载 2.更改模型下载目录 默认下载位置 C:\Users\用户名\.lmstudio\models 3.搜…

route 与 router 之间的差别

简述&#xff1a; router&#xff1a;主要用于处理一些动作&#xff0c; route&#xff1a;主要获得或处理一些数据&#xff0c;比如地址、参数等 例&#xff1a; videoInfo1.vue&#xff1a; <template><div class"video-info"><h3>二级组件…

DeepSeek-V2 论文解读:混合专家架构的新突破

论文链接&#xff1a;DeepSeek-V2: A Strong, Economical, and Efficient Mixture-of-Experts Language Model 目录 一、引言二、模型架构&#xff08;一&#xff09;多头部潜在注意力&#xff08;MLA&#xff09;&#xff1a;重塑推理效率&#xff08;二&#xff09;DeepSeekM…

Android修行手册-五种比较图片相似或相同

Unity3D特效百例案例项目实战源码Android-Unity实战问题汇总游戏脚本-辅助自动化Android控件全解手册再战Android系列Scratch编程案例软考全系列Unity3D学习专栏蓝桥系列ChatGPT和AIGC👉关于作者 专注于Android/Unity和各种游戏开发技巧,以及各种资源分享(网站、工具、素材…

力扣--链表

相交链表 法一&#xff1a; 把A链表的节点都存HashSet里&#xff0c;遍历B链表找相同的节点 法二&#xff1a; 把A、B指针都移到末尾&#xff0c;再同时往回走&#xff0c;每次往回走都比较 当前节点的下一节点&#xff08;a.next b.next ?)是否相同&#xff0c;当不相同…

只需两步,使用ollama即可在本地部署DeepSeek等常见的AI大模型

只需两步&#xff0c;使用ollama即可在本地部署DeepSeek等常见的AI大模型 1.下载ollama,进入ollama官网即可将ollama下载到本地&#xff0c;之后按照提示安装ollama。 https://ollama.com/download/windows 2.安装大模型 进入ollama官网模型页面&#xff0c;找到所需的模型及版…

Qt修仙之路2-1 仿QQ登入 法宝初成

widget.cpp #include "widget.h" #include<QDebug> //实现槽函数 void Widget::login1() {QString userusername_input->text();QString passpassword_input->text();//如果不勾选无法登入if(!check->isChecked()){qDebug()<<"xxx"&…

大模型deepseek-r1 本地Open WebUI部署详解

一、Open WebUI简介 Open WebUI是一个用户友好的Web界面&#xff0c;专为本地大语言模型&#xff08;LLMs&#xff09;设计。它支持多种模型&#xff0c;包括Ollama和OpenAI兼容的API&#xff0c;并允许用户通过图形界面轻松调试和调用模型。Open WebUI的功能丰富&#xff0c;…

免费windows pdf编辑工具Epdf

Epdf&#xff08;完全免费&#xff09; 作者&#xff1a;不染心 时间&#xff1a;2025/2/6 Github: https://github.com/dog-tired/Epdf Epdf Epdf 是一款使用 Rust 编写的 PDF 编辑器&#xff0c;目前仍在开发中。它提供了一系列实用的命令行选项&#xff0c;方便用户对 PDF …

大模型训练(7):集合通信与通信原语

0 背景 分布式训练过程中设计到许多通信上的操作&#xff0c; 每个操作有其不同的术语并且有所区别&#xff0c;这里将其用简单的例子和描述总结一下&#xff0c;方便理解。 集合通信&#xff08;Collective Communications&#xff09;是一个进程组的所有进程都参与的全局通…

线程上下文-ThreadLocal原理

ThreadLocal主要作用&#xff1a;为每个线程提供独立的变量副本&#xff0c;实现线程间的数据隔离&#xff0c;从而避免多线程环境下的资源共享冲突。 原理 ThreadLocal有个内部类 ThreadLocalMap&#xff0c;顾名思义是个Map结构&#xff1a;key为 ThreadLocal实例&#xff0…

第31周:文献阅读

目录 摘要 Abstract 文献阅读 问题引入 研究背景 研究动机 创新点 动态预训练方法&#xff08;DynPT&#xff09; 深度循环神经网络&#xff08;DRNN&#xff09; 传感器选择 方法论 时间序列的动态预训练 异构传感器数据的DRNN 基于稀疏度的传感器过滤 实验研…

Yolo图片标注的一些问题

1.标注工具的选择 在img.net和瑞芯微的双重加持下&#xff0c;现在的计算机视觉识别已经在各行业快速推进。进行自行标注时&#xff0c;首先遇到的问题就是标注工具的选择问题&#xff0c;标注工具不需要自己手工完成——也没有必要。类似这样的通用需求&#xff0c;交给专业…

排错 -- 用React.js,Solidity,智能合约构建最新区块链应用

真枪实弹:第一个Web3项目【上集】用React.js,Solidity,智能合约构建最新区块链应用详细教程 构建web跟随b站教程中遇到了很多错误&#xff0c;从今天开始构建完整的应用&#xff0c;在此记录一些排错。 问题情况1&#xff1a;跟随视频后无Src文件 问题情况1解决方法&#xff1…

杂记:下载了BootLoader和APP到程序中无反应

杂记&#xff1a;下载了BootLoader和APP到程序中无反应 是因为采用了printf输出打印。占用了大量堆栈导致程序运行异常。并且没有打开Use MicroLIB库的话会导致无法启动程序。 解决办法&#xff1a; 1、关闭printf打印。 2、如果不关闭printf打印&#xff0c;则加大Heap_Size…

Unet 改进:引入残差模块ResidualBlock

目录 1. ResidualBlock 2. UNet 引入残差模块 Tips:融入模块后的网络经过测试,可以直接使用,设置好输入和输出的图片维度即可 1. ResidualBlock 残差连接(Residual Connection)是深度学习中一种重要的技术,主要用于解决深层网络训练中的梯度消失和网络退化问题。它首次…