千帆起航:探索百度智能云千帆AppBuilder在AI原生应用开发中的革新之路

千帆起航:探索百度千帆AppBuilder在AI原生应用开发中的革新之路

1.揭开帷幕,大模型第二次战役

自从 ChatGPT 横空出世后,一石激起千层浪,人工智能也正在从感知理解走向生成创造,这是一个关键里程碑。生成式大模型完成了从0到1的飞跃,并且已成为未来发展趋势,推动AI迈向通用人工智能。过去半年,国内有超过 130 个大模型问世,从某种意义上说,大模型在第一阶段的较量,更多属于模型概念的普及、以及对标 ChatGPT 能力的追赶,而解决实际场景下的问题,大模型才能发挥真正的作用,这是大模型应用在中场竞争下关键性的角色所在。

作为新一代基础设施,大模型本身并不直接产生价值,智能时代的未来不会仅仅是大模型本身,而将是大模型生态体系。业内共识是,在大模型之上开发出来的 AI 原生应用,以重构的方式打破原有的产品范式,将大模型的能力释放至千行百业中,与实际场景面对面了解需求,聚焦 AI 能够具体做什么、带来哪些方面的提升,才是大模型第二次战役突围的关键。

作为AI开发者来说,就算我们能够随心所欲的使用这些大模型,但是缺少相应的Prompt工程,对应的基础组件(如向量数据库、对象存储等)和相应的训练文本数据处理工程(如长文总结、nl2sql等),想要完成一个AI原生应用还是需要相当漫长的开发过程。并不是我们跟着语言大模型聊一聊就可以把这个应用做出来。在开发AI原生应用的过程中,我们常面临一个关键问题:如何保证大模型输出的稳定性和可控性。即使我们精心编写了Prompt,输出的结果仍可能波动,难以复现。这不仅是关于编写合适Prompt的问题,更涉及到如何通过外部功能性动作与Prompt相结合,以达到更优的输出效果。

例如,当Prompt空间有限时,开发者需要运用策略对Prompt进行动态适配,挑选合适的信息输入,以便引导模型产生期望的输出。这些高级策略和技术操作对于构建高质量的AI原生应用至关重要,但它们的实现难度不容小觑。另一个关键的挑战是大模型的记忆管理。大多数大型模型依赖短期记忆,而在构建AI原生应用时,我们通常需要长期记忆能力。这意味着模型需要在较长时间内与用户或其他Agent交互,并记录下来关键信息。而这些信息需要被存储和在需要时调度出来,那么我们每一次对话提交的tokens都会附带上大量的成本且得到模型相应的时间都会更长,这也是为什么目前还没有真正爆发式的AI原生应用的原因。

2.框架与组件的融合:千帆AppBuilder的创新之道

10月17日,在百度世界大会上,百度智能云发布了AI原生应用开发工作台,重磅发布“千帆AI原生应用开发工作台”,加速企业AI原生应用落地;千帆AppBuilder将开发大模型应用的常见模式、工具、流程,沉淀成一个工作台,帮助开发者聚焦在自身业务,而无需为开发过程牵扯多余精力。具体来讲,千帆AI原生应用开发工作台主要由应用组件和应用框架两层服务构成。

在这里插入图片描述

举例来说,假定人们的饮食习惯从过去的西餐全面转向中餐,而仅有少数人懂得中餐的烹饪方式。这些“领导者”的厨房“工作台”凝聚了中餐的烹饪理念、经验技巧、菜系、菜品、食材等关键元素。花椒大料代表了“中餐特色组件”,鸡鸭鱼肉代表了“传统组件”;川鲁粤湘等菜系作为“框架”给定了菜肴的基本的组件搭配和开发思路;鱼香肉丝和麻婆豆腐预制菜则对应川菜框架下的“样板间”。有了这样一个资源高度集中“工作台”,人们就可大幅降低烹饪中式料理的门槛,分分钟做出可口佳肴。

具体来讲,千帆AppBuilder底层由百度智能云千帆大模型平台提供支持,核心包括应用组件应用框架两层服务。同时,AppBuilder提供两种产品形态。第一,对于没有代码开发能力的用户,简单点选即可获取对话应用。第二,对于开发者、程序员可可使用代码编写较为复杂的应用,提供sdk、开发环境及调试工具。千帆AppBuilder的核心创新在于其独特的方式,将框架与组件融合,以提供一个全面而灵活的AI原生应用开发环境。它解决了开发者在利用大模型进行应用构建时面临的一系列挑战,特别是在应用原型的设计和开发流程的优化上。

在这里插入图片描述

创新框架:简化复杂的开发流程

千帆AppBuilder的核心创新之一在于其框架设计。这个框架不仅包含了传统的应用开发元素,如界面设计和逻辑构建,还整合了针对大模型特有的功能,例如高级数据处理和智能交互设计。这使得开发者能够在一个统一的环境中,无缝地将大模型的能力融入到他们的应用中。

在这里插入图片描述

组件生态:丰富多样的功能选择

除了强大的框架,千帆AppBuilder还提供了一个广泛的组件生态系统。这些组件涵盖了从文本处理到数据分析、从用户界面设计到后端服务的各个方面。开发者可以根据自己的需求选择合适的组件,快速构建出符合预期的应用。

在这里插入图片描述

双模态开发体验:代码态与低代码态

千帆AppBuilder独特的双模态设计,包括代码态和低代码态,为不同技能水平的开发者提供了便利。低代码态允许那些非专业的开发者通过可视化界面快速搭建应用:

而代码态则为有经验的开发者提供了更深层次的定制化和控制。

3.实战分享:利用千帆AppBuilder加速开发

在开发涉及复杂信息检索和生成的应用时,RAG成为了我不可或缺的工具。它通过结合检索和生成模型,使得应用能够在提供答案时参考大量的文档数据,从而大幅提升了回答的准确性和相关性。这一功能在构建如智能客服或知识问答系统时尤为重要。但是如果我们利用千帆AppBuilder来构建就相当容易了,下面我将一步步构建智能问答客服,首先进入百度智能云千帆-AppBuilder:

在这里插入图片描述

在应用中心中找到知识问答应用(RAG框架),点击在线使用就可以进入到控制台页面,十分简洁没有过多复杂参数调整过程,对AI应用构建者十分友好。我们可以通过应用配置设定名称,比如此时我想做一个智能考公选岗的QA机器人,在知识库检索上传自己的数据集:

在这里插入图片描述

也可以选择百度搜索辅助选择,可以体验文心4.0的强大模型解析能力:

在这里插入图片描述

设定完基础的配置之后我们就可以直接使用模型了:

在这里插入图片描述

除此之外千帆AppBuilder还提供了AgentBuilder应用,“Agent 应用” 在中文中可能意味着许多不同的事物,取决于上下文。一般而言,“Agent”这个词可以指代代理、代理人或代理软件。在计算机科学和软件工程领域,它通常指的是在网络环境中自动执行任务或某种程度上具有自主性的软件实体,也就是相当于能够独立思考的办公助手。而且使用千帆AppBuilder十分简单,甚至不需要根据对应业务构建是非复杂的代码,Agent应用自带Agent配置:

在这里插入图片描述

在这里插入图片描述

能够直接根据我们输入的需求自动生成代码,比如我想要获取:

在这里插入图片描述

这周图表的最大周量数据直接告诉需求就可以实现:

在这里插入图片描述

是不是相当的快捷简便!而且千帆AppBuilder配套专门的SDK调用说明,通过使用流程

  • 步骤一:创建密钥
  • 步骤二:开通组件服务
  • 步骤三:安装SDK
  • 步骤四:功能调用

即可完成功能部署,不仅加速了开发流程,还提高了应用的质量和性能。我鼓励所有对AI原生应用开发感兴趣的开发者体验千帆AppBuilder,探索其提供的无限可能。

4.结语:千帆AppBuilder开启AI原生应用开发的新纪元

我的个人经历也证明了千帆AppBuilder在加速开发流程和提高应用质量方面的能力。无论是RAG的复杂信息处理,Agent的交互设计,GBI的商业智能应用,还是文本框架的高效文本处理,千帆AppBuilder都显示出了其在AI原生应用开发中的关键作用。

量方面的能力。无论是RAG的复杂信息处理,Agent的交互设计,GBI的商业智能应用,还是文本框架的高效文本处理,千帆AppBuilder都显示出了其在AI原生应用开发中的关键作用。

最终,我们的目标不仅仅是构建应用,而是创造体验,启发创新,推动技术向前发展。千帆AppBuilder正是这一目标的有力工具,它为开发者打开了一个充满可能性的新世界。因此,我邀请每一位对AI原生应用开发感兴趣的人,一同探索千帆AppBuilder,共同开启这一激动人心的新时代。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/269411.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

[x86汇编语言]从实模式到保护模式第二版

下载汇编器:https://www.nasm.us/pub/nasm/releasebuilds/2.16.02rc6/win64/ mov ax, 0x3f add bx,ax add cx,ax 编译: C:\Users\HP>cd D:\BaiduNetdiskDownload\01b站\lizhong\myasm C:\Users\HP>D: D:\BaiduNetdiskDownload\01b站\lizhong…

H.264宏块(Macroblock)概念(运动估计、变换编码、环路滤波)

参考文章:音视频高手课系列5-h264编码基础(宏块原理) 参考文章:切片slice与宏块,运动矢量 文章目录 使用videoEye分析视频宏块示例H.264宏块概念1. 宏块的定义2. 运动估计3. 变换编码4. 环路滤波5. 注意:宏块的概念既适用于帧内编…

智能优化算法应用:基于侏儒猫鼬算法3D无线传感器网络(WSN)覆盖优化 - 附代码

智能优化算法应用:基于侏儒猫鼬算法3D无线传感器网络(WSN)覆盖优化 - 附代码 文章目录 智能优化算法应用:基于侏儒猫鼬算法3D无线传感器网络(WSN)覆盖优化 - 附代码1.无线传感网络节点模型2.覆盖数学模型及分析3.侏儒猫鼬算法4.实验参数设定5.算法结果6.…

虚拟机(centos)磁盘空间不够

磁盘空间不够 1.关机 2.打开设置-->硬盘 --> 扩展 3.搞定一半 4.开机进入终端 4.1 查看 lsblk 4.2 加起来 growpart /dev/sda 3 注1: 如果 growpart 提示没有的话需要安装一下 yum -y install cloud-utils-growpart 注2:3前面有个空格 4.3 再次…

java八股 redis

Redis篇-01-redis开篇_哔哩哔哩_bilibili 1.缓存穿透 2.缓存击穿 逻辑过期里的互斥锁是为了保证只有一个线程去缓存重建 3.缓存雪崩 4.双写一致性 4.1要求一致性(延迟双删/互斥锁) 延迟双删无法保证强一致性 那么前两步删缓和更新数据库哪个先呢&#xf…

实时数据获取:抖音API在电商中的应用与影响

在电商行业高速发展的今天,数据已经成为企业决策和创新的重要驱动力。抖音作为全球最大的短视频平台之一,其根据关键词取商品列表API为电商行业带来了前所未有的机遇和挑战。本文将深入探讨该API在电商行业中的关键作用,以及如何实现实时数据…

day48算法训练|动态规划part09

198.打家劫舍 1. dp数组(dp table)以及下标的含义 dp[i]:考虑下标i(包括i)以内的房屋,最多可以偷窃的金额为dp[i]。 2.递推公式 决定dp[i]的因素就是第i房间偷还是不偷。 如果偷第i房间,那么…

微信小程序获取用户手机号码教程(前端+后端)

1.背景介绍 在开发一款微信小程序时,需要用户进行微信登录,获取用户的手机号码来作为用户的唯一标识(userId),于是探索获取用户手机号码的方式; (当然,通过wx.login来获取code&…

JavaOOP篇----第十七篇

系列文章目录 文章目录 系列文章目录前言一、怎么在JDBC内调用一个存储过程二、是否了解连接池,使用连接池有什么好处?三、你所了解的数据源技术有那些?使用数据源有什么好处?四、&和&&的区别五、静态内部类如何定义前言 前些天发现了一个巨牛的人工智能学习网…

❀My学习小记录之XML❀

目录 ❀My学习小记录之XML❀ 一、简介 二、发展历程 XML历史: 三、XML常见应用 四、语法格式及相关介绍 语法: 格式声明(指令): 元素: 标记(标签): 属性: 注…

【Docker容器精解篇 】深入探索Docker技术的概念与容器思想

🎬 鸽芷咕:个人主页 🔥 个人专栏: 《docker容器精解篇》《粉丝福利》 ⛺️生活的理想,就是为了理想的生活! 文章目录 前言一、Docker 的介绍1.1 Docker 的由来1.1.1 环境不一致1.1.2 隔离性1.1.3 弹性伸缩1.1.4 学习成本 1.2 Doc…

Python遥感影像深度学习指南(3)-卫星图像语义分割之用PyTorch创建一个简单的U-Net 模型

在上一篇文章中,介绍了如何在不使用 torchvision 模块的情况下,创建卫星图像的多通道数据集。现在,我们将继续创建一个简单的深度学习模型,用于卫星图像的语义分割。 1、介绍 下图来自 "卷积神经网络实现了从高分辨率无人机图像中高效、准确、精细地分割植物物种和群…

Python 简易图形界面库easygui 对话框大全

easygui 安装 C:\> pip install easygui Looking in indexes: https://pypi.tuna.tsinghua.edu.cn/simple Collecting easygui Using cached https://pypi.tuna.tsinghua.edu.cn/packages/8e/a7/b276ff776533b423710a285c8168b52551cb2ab0855443131fdc7fd8c16f/easygui-…

基于ssm服装店网站论文

摘 要 如今社会上各行各业,都喜欢用自己行业的专属软件工作,互联网发展到这个时候,人们已经发现离不开了互联网。新技术的产生,往往能解决一些老技术的弊端问题。因为传统服装销售信息管理难度大,容错率低&#xff0c…

执行 delete from t1 where id = 10;MySQL会加什么锁?

思考一个问题:下面一条简单的SQL,它加什么锁? delete from t1 where id 10; 带着你的答案,我们继续往下看。 如果要分析上述SQL的加锁情况,必须了解这个SQL的执行前提,MySQL的隔离级别是什么…

2024年元旦节放假通知

致尊敬的客户以及全体同仁: 旧岁已展千重锦,新年再进百尺竿。在这辞旧迎新之际,易天光通信提前祝您元旦快乐!生意兴隆,身体健康,万事如意!根据国家法定假期的规定,并结合公司实际情…

VGG网络分析与demo实例

参考自 up主的b站链接:霹雳吧啦Wz的个人空间-霹雳吧啦Wz个人主页-哔哩哔哩视频这位大佬的博客 Fun_机器学习,pytorch图像分类,工具箱-CSDN博客 VGG 在2014年由牛津大学著名研究组 VGG(Visual Geometry Group)提出,斩获该年 Imag…

【网安 | 网络协议】ARP协议(地址解析协议)

前言 在使用nmap时可以使用-PR指令,通过发送ARP请求包进行主机存活探测。 那么这一过程的原理是什么呢? 在了解什么是ARP协议后,问题就迎刃而解了。 概念 地址解析协议,即ARP(Address Resolution Protocol&#xf…

《运维人员的未来:IT界的“万金油“如何继续闪耀光芒》

文章目录 每日一句正能量前言35岁被称为运维半衰期,究竟为何?如何顺利过渡半衰期运维的职业发展路径后记 每日一句正能量 凡事顺其自然,遇事处于泰然,得意之时淡然,失意之时坦然,艰辛曲折必然,历…

运维大模型探索之 Text2PromQL 问答机器人

作者:陈昆仪(图杨) 大家下午好,我是来自阿里云可观测团队的算法工程师陈昆仪。今天分享的主题是“和我交谈并获得您想要的PromQL”。今天我跟大家分享在将AIGC技术运用到可观测领域的探索。 今天分享主要包括5个部分:…