揭秘AI 原生应用技术栈

0830ac53774d270641d7f04e4acb8217.jpeg

 

一次性把“AI 原生应用技术栈”说明白

   

AI热潮持续,厂商努力推动有价值的应用涌现,并打造服务AI原始应用的平台产品。本文精简介绍业界最新的AI原生应用技术栈,让您迅速把握前沿科技脉搏。

整体架构

AI技术栈逻辑图精简呈现,多层架构一览无余。以下详细解析图中①至⑤关键节点,揭示AI原始应用技术的核心魅力。

48355e1a4630c3107e34a31ab427821c.jpeg

① 大模型

AI热潮再起,OpenAI功不可没,ChatGPT展现AGI潜力。当前,GPT 4.0仍领跑大模型技术前沿。云厂商与创业公司纷纷提供模型支持,共同推动AI发展。

  • 国内大模型主要有:
    • RNIE 4.0(文心一言),百度出品
    • 通义千问,阿里出品
    • 盘古大模型,华为出品
    • 星火大模型,科大讯飞出品
    • Baichuan 3,王小川创业公司百川智能
    • abab 6.5,MiniMax出品
    • GLM-130B,智谱 AI
    • Yi-34B,零一万物,李开复老师创业公司
  • 海外大模型主要有
    • GPT 4.0,OpenAI 出品,背后金主爸爸是微软
    • Google Gemini 1.5,刚刚Google next 2024大会发布
    • Claude 3,背后金主爸爸是 AWS
    • Llama-3,meta 开源,开源最强模型

阿里巴巴董事长蔡崇信指出,国内整体实力较海外落后1-2年,国内公司更重模型创新,而海外创业公司更侧重于应用创新。这一差异凸显了国内外商业环境和思路的显著差距。

② Model Builder

f32e596c1fcc372046d8eea963b2f372.jpeg

Model Builder提供大模型部署、精调、推理服务一体化工具链,简化操作,轻松驾驭大型模型应用。

主要还是云厂商提供这块的服务,关于这部分的功能划分不完全一样。

  • 百度智能云Model Builder,实现模型复制、管理、评估与优化,支持一键调用与推理服务部署,高效便捷。
  • AWS Bedrock 负责基础大模型提供服务

199217e954a99acc85cc0fb56a8630d9.jpeg

  • Google Vertex AI,集Model Garden、Model Builder、Agent Builder等功能于一体,铸就强大品牌,为您的AI之旅提供一站式解决方案。
  • Azure 主要有两块服务:
    • OpenAI Service,引领AI前沿,提供GPT4、GPT3.5及卓越embedding等强大模型,助您解锁无限智能可能。
    • Azure AI Studio 第三方模型服务,如Llama

③向量数据库

生成式人工智能的飞跃,催生了大规模预训练模型的繁荣,其中,向量数据库成为关键环节。借助AI和机器学习,非结构化数据如文本、图像和视频,可转化为数学向量。向量数据库专为此而生,高效存储与检索向量数据,实现非结构化信息的精准检索与相似性计算。对大模型而言,它象征着高效与精准的模型应用新纪元。

大模型风潮中,向量数据库厂商备受资本瞩目。荷兰Weaviate获5000万美元B轮融资,美国Pinecone筹集1亿美元B轮融资。这些巨额融资彰显向量数据库领域的炙热关注度,预示着该领域正迎来前所未有的发展机遇。

大语言模型面临知识更新滞后、幻觉生成、行业知识匮乏及安全回答难题。引入向量存储模块作为长期记忆,借助数据反馈与干预,低成本解决上述挑战,显著提升模型性能与准确性。

  • 国内
    • 百度向量数据库
    • 腾讯向量数据库
    • 开源的 milvus(商业产品 zilliz)
  • 海外
    • pinecone

④Agent builder & ⑤App builder

Agent 智能体是个时髦概念,吴恩达最近的预测通过智能设计,用 GPT 3.5 就能达到 4.0 的效果。AI Agent 和大模型的区别在于,大模型与人类之间的交互是基于prompt 实现的,用户prompt 是否清晰明确会影响大模型回答的效果。而AI Agent的工作仅需给定一个目标,它就能够针对目标独立思考并做出行动。从原理上说,AI Agent的核心驱动力是大模型,在此基础上增加规划(Planning)、记忆(Memory)和工具使用(Tool Use)三个关键组件。 

App builder 的范围要更大一些,帮助开发者和应用构建 App,Agent 理论上是一种App。不过现在能直接通过工具就能构建的 App 类型还比较少,前面比较流行的低代码平台,本质也是帮助用户构建企业里面流程管理 App,也是其中一种。

  • 国内典型的有
    • 百度推出Agent Builder,专注于2C领域;同时,App Builder则致力于为企业提供2B解决方案,满足不同业务需求。
    • 字节 coze
    • google 在Vertex AI也包含了 Agent builder
  • 这类的builder 核心提供三个能力
    • 一键发布至各大平台,轻松实现App分发,确保用户轻松下载使用,构建者提供全流程打通能力,助力快速上线。

-对此,您有什么看法见解?-

-欢迎在评论区留言探讨和分享。-

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/682775.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

nexus搭建npm前端项目的私服

一、为什么要搭建私库 节省外网带宽加速maven构建部署第三方构件(特别是无法从公共仓库下载的构件)提高稳定性(内网部署,更少地依赖外网)降低中央仓库的负荷 构件,好比我们的藏书,去书店或商城…

Python 全栈系列249 IO并发:异步、线程与协程

说明 很久没有关注这方面的问题了,平时大部分时候还是做批量操作 。在这种情况下(CPU密集),异步、协程这些意义就不大了,甚至可能进一步拖慢处理时间。 但是在IO这一块的零碎处理是比较重要的,可以更快,且更省资源。很早的时候&…

什么是通配符SSL证书?要怎么申请?

通配符SSL证书的作用主要是为了方便管理和加密具有多个子域名的网站。它能够保护一个主域名及其所有的同级子域名,无论子域名的数量多少或名称如何变化。使用一个通配符证书,你可以为像 *.example.com 这样的设置加密,这样不论是 blog.exampl…

Mysql:通过一张表里的父子级,递归查询并且分组分级

表:gc_jzst_single_base 需求:要求返回这张表里符合条件的数据,且有父子级关系的,展示为同一组且分级,给后续业务调用 代码 WITH RECURSIVE t1 AS (SELECTsingle_id,old_build_single_id,single_name,bulid_code,1 A…

运维开发介绍

目录 1.什么是运维开发 2.作用 3.优点 4.缺点 5.应用场景 5.1.十个应用场景 5.2.网站和Web应用程序 6.案例 7.小结 1.什么是运维开发 运维开发(DevOps)是一种结合软件开发(Development)与信息技术运维(Opera…

从分布式训练到大模型训练

要了解大模型训练难,我们得先看看从传统的分布式训练,到大模型的出现,需要大规模分布式训练的原因。接着第二点去了解下大规模训练的挑战。 从分布式训练到大规模训练 常见的训练方式是单机单卡,也就是一台服务器配置1块AI芯片&a…

地球科学SCI期刊,中科院2区,IF=14.6,自引率低,无预警风险!

一、期刊名称 IEEE Geoscience and Remote Sensing Magazine 二、期刊简介概况 期刊类型:SCI 学科领域:地球科学 影响因子:14.6 中科院分区:2区 三、期刊征稿范围 IEEE地球科学和遥感杂志向读者介绍IEEE GRS协会及其技术委员…

谢宁DOE培训的奇妙之旅:从陌生到熟练

在充满挑战与机遇的现代社会,不断提升自我,掌握新的技能和知识,成为了我们追求进步的重要途径。而对于我来说,参加谢宁DOE培训,无疑是我职业生涯中的一次重要抉择。这次培训让我从对谢宁DOE陌生到熟练,经历…

618电视盒子哪个好?经销商总结热销电视盒子品牌排行榜

电视盒子是目前热度最高的数码产品,大家都在讨论电视盒子的资源问题,究竟电视盒子还值不值得入手?电视盒子哪个好?电视盒子的功能并没有受到影响,依然是不可缺少的,本期我要给大家盘点实体店销量最好的电视…

雅欣控制HALL IC 产品选型手册,选择您的专属霍尔芯片(霍尔产品主要包括远翔FD,FS全系列,MST全系列霍尔)

HALLICs 应用领域 Applications 应用案例 雅欣为各个应用场景匹配专属HALL元器件 合作伙伴 Partners

Servlet详解(下)

目录 一、Servlet详解1.1、核心接口和类1.1.1、Servlet接口1.1.2、GenericServlet1.1.3、HttpServlet(推荐) 1.2、两种配置方法1.2.1、使用web.xml1.2.2、使用注解 二、Servlet应用2.1、request对象2.2、request主要方法2.2、response对象2.3、response主要方法 三、转发与重定…

linuxDNS域名解析

文章目录 DNS 是域名系统的简称正向解析反向解析主从服务器解析bond网卡 DNS 是域名系统的简称 域名和IP地址之间的映射关系 互联网中,IP地址是通信的唯一标识,逻辑地址 访问网站 域名解析的目的就是为了实现,访问域名就等于访问IP地址 …

作业-day-240605

思维导图 C编程 设计一个Per类&#xff0c;类中包含私有成员:姓名、年龄、指针成员身高、体重 再设计一个Stu类&#xff0c;类中包含私有成员:成绩、Per类对象p1 设计这两个类的构造函数、析构函数。 #include <iostream>using namespace std;class Per{ private:str…

mkfs.ubifs -c 计算工具

mkfs.ubifs -c 输入的logical erase block count,是指除掉ubi文件系统自身管理和坏块处理后的逻辑可擦除最大块数。 参考信息如下&#xff1a; logical erase block count 计算工具&#xff0c;实现代码如下&#xff1a; #!/usr/bin/python # -*- coding: UTF-8 -*-import os…

postman教程-15-前置脚本

上一小节我们学习了Postman生成随机数的方法&#xff0c;本小节我们讲解一下Postman前置脚本的使用方法。 Postman中的前置脚本&#xff08;Pre-request Script&#xff09;允许你在发送请求之前运行JavaScript代码。这可以用于修改请求头、查询参数、请求体等&#xff0c;或者…

bison flex 实现tiny语言的编译器

bison flex 实现tiny语言的编译器 项目地址&#xff1a;tiny-compiler 完成了词法分析&#xff0c;语法分析&#xff0c;中间代码生成&#xff0c;虚拟机执行&#xff0c;没有进行类型检查、错误处理和中间代码优化。 词法分析 %{ #include <iostream> #include "…

RocketMq源码解析五:生产者Producer发送消息

上一章我们把生产者启动的流程和大家一起跟着源码走了一遍,现在我们来看发送消息的流程。上一章我们已经把核心接口和类关系梳理了一遍。如下图 我们今天重点看MQProducer中的send方法最终的实现。DefaultMQProducer中,send的实现最终还是调用了 defaultMQProducerIm…

ingress规则

一 k8s 对外服务之 Ingress LB ingress 1 Ingress 简介 service的作用体现在两个方面 ? ① 对集群内部&#xff0c;它不断跟踪pod的变化&#xff0c;更新endpoint中对应pod的对象&#xff0c;提供了ip不断变化的pod的服务发现机制&#xff1b; ② 对集群外部&#xff0c…

MySQL—多表查询—自连接

一、引言 自连接&#xff0c;顾名思义就是自己连接自己。 自连接的语法结构&#xff1a; 表 A 别名 A join 表 A 别名 B ON 条件 ...; 注意&#xff1a; 1、这种语法有一个关键字&#xff1a;join 2、自连接查询可以是内连接的语法&#xff0c;可以是外连接的语法&#xff08…

embedding层的理解

一文读懂Embedding的概念&#xff0c;以及它和深度学习的关系 - 知乎 (zhihu.com) 感觉这篇知乎真的大道至简。个人感觉embedding层和普通的线性层没有什么区别~就是为了降维和升维用的。也就是向量的维度变化&#xff01;