【大模型安全】安全解决方案

1.技术层面
2.数据层面
- 数据收集阶段
- 训练阶段
- 模型推理阶段

1.技术层面

在使用大语言模型时，通常有几种选择：一种是采用封装好的大语言模型SaaS云服务；另一种是在公有云上部署自有的大语言模型，并通过权限管理确保内部访问的安全；还有一种是将大语言模型部署在私有云或自有数据中心中

1、数据加密

加密工具需要保护传输中的数据和静态数据的安全。加密还需要对许多不同类型的数据进行操作，包括用户生成的数据和机器生成的数据。加密工具还需要与不同的分析工具集及其输出数据以及常见的大语言模型存储格式配合使用，可能包括关系数据库管理系统（RDBMS）、非关系数据库（NoSQL）以及Hadoop分布式文件系统（HDFS）等专用文件系统

数据存储控制可以使用签名消息摘要为每个数字文件或记录提供加密标识符，也可使用称为安全不受信任数据存储库的技术检测恶意服务器代理进行的未经授权的文件修改

另外，大语言模型数据训练需要从互联网上获取大量非结构化数据，并对企业内部的非结构化数据进行融合处理。目前这类数据库相对容易受到NoSQL注入攻击，这种攻击可能会对密码进行加密或散列，并使用高级加密标准、RSA算法或安全散列算法等来维护端到端加密。因此，涉及非关系数据库时，需要更加关注相关的安全风险

2、集中密钥管理

集中密钥管理一直是安全最佳实践，包括策略驱动的自动化、日志记录、按需密钥交付以及从密钥使用中提取密钥管理

3、用户访问控制

强化用户访问控制，采取基于策略的自动化管理，能有效防止未授权访问

例如，首先使用诸如Kerberos、OAuth 2.0等身份验证方法创建鉴权认证中心，确保遵循预定义的安全策略。随后，通过将所有个人身份信息与数据分离，对数据进行“去识别化”，确保个人信息不会受到损害。之后，利用强制访问控制允许基于预定义的安全策略访问文件，并确保不受信任的代码不会通过设备资源泄露信息。最后，在云或虚拟环境中，IT部门应扫描工作节点和映射器，查找虚假节点和被更改的结果重复项

另外，为了管控大语言模型的访问来源，可以利用终端访问设备管理解决方案。使用受信任的凭据并执行资源验证，可以仅将受信任的访问终端连接到网络

4、入侵检测和预防

入侵防御系统（IPS）是保护网络安全和计算机系统安全的主力。大语言模型的数据和分布式架构很容易遭到入侵。IPS使安全管理员能够保护大语言模型免受入侵，如果入侵成功，IPS会在入侵造成重大损害之前将其隔离

5、物理安全

无论是在自有的数据中心还是依托云服务提供商的数据中心部署大语言模型时，需确保只有授权人员能够进入敏感区域，同时利用视频监控和安全日志加强安全防护

6、加强系统访问审计

审计记录的完整性和安全性非常重要。审计数据应该与其他数据隔离，并通过精细的用户访问控制和定期报告进行保护。在配置审计时，应将其与审核数据分开，并允许记录所有必要的日志

2.数据层面

数据收集阶段

1、确保安全的数据传输和存储机制，包括加密技术、访问控制和安全协议等
2、对数据进行匿名化或脱敏处理，最大限度地减少个人隐私泄露的风险
3、进行数据质量和完整性的检查与清洗，排除不良数据对模型训练的影响
4、对于法律上明确的数据采集和使用的合规要求，通过产品和技术方式予以落地
5、对数据样本进行平衡处理，减少出现偏见和歧视的可能性
6、引入对抗训练和鲁棒性评估等技术，增强模型对对抗性样本和干扰攻击的抵抗能力
7、定期进行安全审计和漏洞扫描，及时修复可能存在的安全问题