使用迁移学习在线校准深度学习模型
本文参考的是2023年发表于Engineering Applications of Artificial Intelligence, EAAI的Deep Gaussian mixture adaptive network for robust soft sensor modeling with a closed-loop calibration mechanism
1. 动机
概念漂移导致历史训练数据和在线部署数据之间的分布失配问题,这会恶化深度学习模型的性能。不幸的是,现有的深度学习模型很少有处理在线漂移的校准机制。
2. 方法
- 提出高斯混合条件变分自动编码器(GMCVAE)
- 使用无标签数据对齐边缘分布、使用有标签数据对齐条件分布
- 预训练-微调的方式进行在线部、闭环校准
- 深度学习离线训练,迁移学习在线校准
3. 优势
- 多模态数据域适应
- 半监督迁移学习
- 高效校准能力
- 模型长期有效性保证