大模型应用商业化落地关键:给企业带来真实的业务价值

2024 年被很多人称为大模型应用的元年,毫无疑问,大模型已经成为共识,下一步更急迫的问题也摆在了大家的面前——大模型到底能够用在哪?有哪些场景能落地?怎么做才能创造真正的价值?

在刚刚过去的 AICon 全球人工智能开发与应用大会上,InfoQ 采访了在大模型应用领域的领跑企业数势科技创始人兼 CEO 黎科峰博士,交流大模型商业化落地的可行性路径,为行业提供启发。

1大模型在 ToB 领域蕴藏巨大机遇,企业出海或将成为落地加速器

当前,许多传统企业对于如何将大模型技术整合到现有业务中感到迷茫。大模型应用产品提供企业难以找到合适的变现方式。大模型应用企业究竟该如何突破商业化之困?ToB 和 ToC,呈现出两种不同的路径。

ToC 市场似乎拥有一种天然的魔力,在中国的互联网领域中,它催生了一批又一批的杀手级应用,并不断吸引着更多企业加入这个生态系统。ToC 市场如火如荼,ToB 市场发展因为投资回报率、数据安全性等问题导致相对发展缓慢。但纵观中国科技发展史, ToB 市场经历了 20 多年的从信息化到数字化再到智能化等多个技术阶段的演变与发展,每一次技术革命都经历了探索和融合期,最终帮助企业更好地为用户提供个性化产品、满足特定需求。

因此黎科峰认为,大模型在 ToB 市场同样蕴藏着更大的机遇。从用户的角度来看,广大用户,包括企业管理者、技术人员和业务人员,已经开始熟悉并运用大模型进行日常的数据处理、知识获取等,当企业公民使用率提升后,将反向推动 To B 软件的发展,真正实现软件产品“从管到用”的进化。从市场选择来看,企业出海也许将加速大模型商业化落地。一方面,由于海外企业用户更倾向选择公有云部署,能够为大模型商业化提供更加全面的场景数据积累,不断丰富和优化场景应用;另一方面,SaaS 付费模式在海外接受程度高于国内市场,有利于大模型应用企业更轻量、高效地实现商业化落地。

2大模型 +Agent,将在企业经营分析领域落地

大模型具备知识、智商、学习能力和推理能力,能够总结和生成新的见解,叠加 Agent,让企业应用具备了记忆、反思和学习能力,能够调用企业内部工具并不断迭代反思,真正实现业务价值的落地。据行业调研表明,数据分析和决策被视为这一结合最重要的应用方向。

在企业考虑引入数据分析 Agent 产品时,成本、数据安全以及实际落地价值将是关注重点。部署千亿级别参数的大模型成本高昂,目前或许只有头部企业才能承担。同时,数据安全问题也不容忽视,特别是在受严格监管的金融等行业。再者,企业也需要确保大模型投入后能对业务产生实质性的帮助。

黎科峰表示,为解决这些问题,数势科技为企业提供了规模适中、符合企业经营分析场景的 Agent 产品,来降低企业成本和使用门槛。同时,通过云端私有化的专属数据空间以及支持私有化和本地化部署的方式,确保数据安全。

3SwiftAgent 2.0 发布,实现企业数据分析与决策的范式变革

自大模型技术发布之初,数势科技便迅速拥抱这一变革,并在此基础上推出了 SwiftAgent 的新一代产品。黎科峰在采访中介绍,SwiftAgent 2.0 版本与 1.0 相比,主要新增了五大亮点功能,包括增加了指标和标签语义层、多模态和多源异构数据链接、用户可干预、可持续性学习和数据加速引擎,这些亮点体现了产品如何针对企业数据分析的现有问题提供解决办法。

“统一语义层的构建”,SwiftAgent 2.0 通过添加指标和标签语义层,解决了大模型对底层业务语义理解的难题,并统一了企业各部门的数据口径,从而避免了数据的混乱。

“多模态和多源异构数据链接”使得结构化数据和非结构化数据能够结合,提供更丰富的分析结论。

“用户可干预机制”允许用户参与到数据分析过程中,通过反馈和确认来训练和优化 Agent。

“数据加速引擎”则确保了实时数据处理的能力,实现了秒级数据查询,真正达到了实时人机交互的水平。底层选用了性能优异的数据分析引擎,如 StarRocks、Doris,并结合对数据加工和使用场景的优化,提供了基于视图的预计算能力和基于预计算结果的查询优化能力。

此外,数据虚拟化技术的应用,使得数据定义与物理数据解耦,实现了指标 / 标签的灵活加工使用,无需排期开发,进一步提高了数据处理的效率。

图片

4大模型应用商业化落地的关键:找到产品的业务价值

在商业化方面,大模型仍然属于新兴事物。为了让更多行业看到大模型在真实业务场景中的应用价值,数势科技也在致力于创造实际的落地标杆。“只有通过口口相传和业务价值的真实感知,才能让有价值的产品被更多人接受和使用。”黎科峰认为。

目前,SwiftAgent 已经与行业头部客户签订了合同,并实现了真正的付费使用。这标志着数势科技在大模型领域的领先地位,其产品已经在金融、零售、消费和高端制造等多个行业中得到了应用,帮助企业解决实际的业务问题。

以一家头部茶饮连锁企业为例,黎科峰介绍说明,SwiftAgent 通过在集团层面部署语义层和数据分析框架,并将 Agent 提供给每位店长,使得他们能够通过对话式查询快速获取数据和分析结果,从而提升门店运营效率。这种数字化工具的应用,为企业提供了一个经营闭环,改变了过去门店靠经验经营的困境,极大地促进了业务发展。

数势科技 SwiftAgent 2.0 实现了大模型技术在企业经营场景下的价值验证,也提升了产品的智能化程度,正在颠覆企业企业数据分析与决策范式。黎科峰表示,数势科技的愿景便是以科技创新实现数据价值的普惠化,让每一个企业、每一位员工都能体会到数据带来的价值。

未来,我们期待看到更多像数势科技这样的企业,通过创新的技术和产品,推动大模型商业化进程,为各行各业带来价值提升。

如何学习大模型 AI ?

由于新岗位的生产效率,要优于被取代岗位的生产效率,所以实际上整个社会的生产效率是提升的。

但是具体到个人,只能说是:

“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。

这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。

我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述

第一阶段(10天):初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识,对大模型 AI 的理解超过 95% 的人,可以在相关讨论时发表高级、不跟风、又接地气的见解,别人只会和 AI 聊天,而你能调教 AI,并能用代码将大模型和业务衔接。

  • 大模型 AI 能干什么?
  • 大模型是怎样获得「智能」的?
  • 用好 AI 的核心心法
  • 大模型应用业务架构
  • 大模型应用技术架构
  • 代码示例:向 GPT-3.5 灌入新知识
  • 提示工程的意义和核心思想
  • Prompt 典型构成
  • 指令调优方法论
  • 思维链和思维树
  • Prompt 攻击和防范

第二阶段(30天):高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习,学会构造私有知识库,扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架,抓住最新的技术进展,适合 Python 和 JavaScript 程序员。

  • 为什么要做 RAG
  • 搭建一个简单的 ChatPDF
  • 检索的基础概念
  • 什么是向量表示(Embeddings)
  • 向量数据库与向量检索
  • 基于向量检索的 RAG
  • 搭建 RAG 系统的扩展知识
  • 混合检索与 RAG-Fusion 简介
  • 向量模型本地部署

第三阶段(30天):模型训练

恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。

到此为止,大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗?

  • 为什么要做 RAG
  • 什么是模型
  • 什么是模型训练
  • 求解器 & 损失函数简介
  • 小实验2:手写一个简单的神经网络并训练它
  • 什么是训练/预训练/微调/轻量化微调
  • Transformer结构简介
  • 轻量化微调
  • 实验数据集的构建

第四阶段(20天):商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知,可以在云端和本地等多种环境下部署大模型,找到适合自己的项目/创业方向,做一名被 AI 武装的产品经理。

  • 硬件选型
  • 带你了解全球大模型
  • 使用国产大模型服务
  • 搭建 OpenAI 代理
  • 热身:基于阿里云 PAI 部署 Stable Diffusion
  • 在本地计算机运行大模型
  • 大模型的私有化部署
  • 基于 vLLM 部署大模型
  • 案例:如何优雅地在阿里云私有部署开源大模型
  • 部署一套开源 LLM 项目
  • 内容安全
  • 互联网信息服务算法备案

学习是一个过程,只要学习就会有挑战。天道酬勤,你越努力,就会成为越优秀的自己。

如果你能在15天内完成所有的任务,那你堪称天才。然而,如果你能完成 60-70% 的内容,你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费

在这里插入图片描述

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/642894.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

分布式版本控制工具 git

git 是什么 分布式版本控制工具。github 是代码托管平台。 git 有什么用 保存文件的所有修改记录。使用版本号(sha1 哈希值) 进行区分。随时可浏览历史版本记录。可还原到历史指定版本。对比不同版本的文件差异。 为什么要使用 git 多人协作开发一个大…

C# 结合 JS 暴改腾讯 IM SDK Demo

目录 关于腾讯 IM SDK Demo 范例运行环境 设计思路 服务端生成地址 IM 服务端接收 IM 客户端程序 小结 关于腾讯 IM SDK Demo 腾讯云即时通信 IM SDK 提供了单聊、群聊、关系链、消息漫游、群组管理、资料管理、直播弹幕等功能,并提供完备的 App 接入及管…

【STM32CubeIDE】软件硬件SPI+六针OLED使用

前言 本文将介绍STM32 6针OLED的使用,分别使用软件和硬件两种SPI驱动方式,最终实现OLED显示TEST-ok字符和数字累加刷新显示 软件平台:STM32CubeIDEHAL库 硬件:STM32F103ZET6(正点原子战舰V3)六针OLED 题外话: 最…

开源博客项目Blog .NET Core源码学习(26:App.Hosting项目结构分析-14)

后台管理页面的系统管理下主要包括用户管理、角色管理、按钮管理和菜单管理,其中创建用户时要指定角色,创建角色时需指定菜单权限,按钮管理也是基于各菜单项进行设置,只有菜单管理相对独立,因此本文学习并分析App.Host…

【Python搞定车载自动化测试】——Python基于Pytest框架实现UDS诊断自动化(含Python源码)

系列文章目录 【Python搞定车载自动化测试】系列文章目录汇总 文章目录 系列文章目录💯💯💯 前言💯💯💯一、环境搭建1.软件环境2.硬件环境 二、目录结构三、源码展示1.诊断基础函数方法2.诊断业务函数方法…

基于Keras的手写数字识别(附源码)

目录 引言 为什么要创建虚拟环境,好处在哪里? 源码 我修改的部分 调用本地数据 修改第二层卷积层 引言 本文是博主为了记录一个好的开源代码而写,下面是代码出处!强烈建议收藏!【深度学习实战—1】&#xff1a…

SK6812-RGBW是一个集控制电路与发光电路于一体的智能外控LED光源

产品概述: SK6812-RGBW是一个集控制电路与发光电路于一体的智能外控LED光源。其外型与一个5050LED灯珠相同,每个元件即为一个像素点。像素点内部包含了智能数字接口数据锁存信号整形放大驱动电路,电源稳压电路,内置恒流电路&#xff0…

基于51单片机的盆栽自动浇花系统

一.硬件方案 工作原理是湿度传感器将采集到的数据直接传送到ADC0832的IN端作为输入的模拟信号。选用湿度传感器和AD转换,电路内部包含有湿度采集、AD转换、单片机译码显示等功能。单片机需要采集数据时,发出指令启动A/D转换器工作,ADC0832根…

WordPress Country State City Dropdown CF7插件 SQL注入漏洞复现(CVE-2024-3495)

0x01 产品简介 Country State City Dropdown CF7插件是一个功能强大、易于使用的WordPress插件,它为用户在联系表单中提供国家、州/省和城市的三级下拉菜单功能,帮助用户更准确地填写地区信息。同时,插件的团队和支持也非常出色,为用户提供高质量的服务。 0x02 漏洞概述 …

零基础的粉丝有福了:逐键提示盲打更轻松

盲打就是不看键盘去打字,对于零基础的粉丝而言,盲打入门通常都是很难的,今天就给大家放个福利:从今天开始就能盲打,3天之后盲打就入门了。 真的有这么简单吗?是的,跟着我做就可以了。 首先&am…

结构体(位段)内存分配

结构体由多个数据类型的成员组成。那编译器分配的内存是不是所有成员的字节数总和呢? 首先,stu的内存大小并不为29个字节,即证明结构体内存不是所有成员的字节数和。   其次,stu成员中sex的内存位置不在21,即可推测…

Linux驱动开发笔记(二) 基于字符设备驱动的I/O操作

文章目录 前言一、设备驱动的作用与本质1. 驱动的作用2. 有无操作系统的区别 二、内存管理单元MMU三、相关函数1. ioremap( )2. iounmap( )3. class_create( )4. class_destroy( ) 四、GPIO的基本知识1. GPIO的寄存器进行读写操作流程2. 引脚复用2. 定义GPIO寄存器物理地址 五、…

视频汇聚平台LntonCVS视频监控系统前端错误日志记录及Debug模式详细讲解

LntonCVS作为一种支持GB28181标准的流媒体服务平台,旨在提供一个能够整合不同厂商设备、便于管理和扩展的解决方案,以适应日益复杂的视频监控环境。通过实现设备的统一管理和流媒体的高效传输,LntonCVS帮助构建更加灵活和强大的视频监控系统。…

Andoird使用Room实现持久化及使用Room进行增删查改

文章目录 Room概述Room的使用一、在gradle.build中添加依赖库kotlinJava 创建实体类创建抽象Dao层接口创建DataBase层使用创建的查看数据库 总结: 这篇文章会告诉你如何在Android中通过kotlin或者Java来实现数据持久化 Room概述 处理大量结构化数据的应用可极大地受…

强烈推荐 20.7k Star!企业级商城开源项目强烈推荐!基于DDD领域驱动设计模型,助您快速掌握技术奥秘,实现业务快速增长

更多资源请关注纽扣编程微信公众号 1 项目简介 商城是个从零到一的C端商城项目,包含商城核心业务和基础架构两大模块,推出用户、消息、商品、订单、优惠券、支付、网关、购物车等业务模块,通过商城系统中复杂场景,给出对应解决方案。使用 …

Java——简易图书管理系统

本文使用 Java 实现一个简易图书管理系统 一、思路 简易图书管理系统说白了其实就是 用户 与 图书 这两个对象之间的交互 书的属性有 书名 作者 类型 价格 借阅状态 而用户可以分为 普通用户 管理员 使用数组将书统一管理起来 用户对这个数组进行操作 普通用户可以进…

Axure RP 10汉化版修改文字

效果 安装目录 lang/default Axure 10 RP 汉化包(概览改图层)

Express 的 req 和 res 对象

新建 learn-express文件夹,执行命令行 npm init -y npm install express 新建 index.js const express require(express); const app express();app.get(/, (req, res, next) > {res.json(return get) })app.post(/, (req, res, next) > {res.json(retur…

单机一天轻松300+ 最新微信小程序拼多多+京东全自动掘金项目、

现代互联网经济的发展带来了新型的盈利方式,这种方法通过微信小程序的拼多多和京东进行商品自动巡视,以此给商家带来增加的流量,同时为使用者带来利润。实践这一手段无需复杂操作,用户仅需启动相应程序,商品信息便会被…

【东山派Vision K510开发板试用笔记】WiFi配网问题

目录 概述 WiFi配网的修改 悬而未决的问题 概述 最近试用了百问网提供的东山派Vision开发板,DongshanPI-Vision开发板是百问网针对AI应用开发设计出来的一个RSIC-V架构的AI开发板,主要用于学习使用嘉楠的K510芯片进行Linux项目开发和嵌入式AI应用开发…