打造更智能的应用 - 机器学习和Andorid

打造更智能的应用 - 机器学习和Andorid

  • 一、关于机器学习和Andorid
  • 二、使用 Gemini 让您的 Android 应用如虎添翼
    • 2.1 Gemini API
    • 2.2 Android AICore
  • 三、现成可用的还是自定义的机器学习
    • 3.1 机器学习套件 SDK 的常见用户流
    • 3.2 高性能自定义机器学习
  • 四、机器学习套件 SDK:可立即使用,适用于常见用户流
  • 五、Android 的自定义机器学习堆栈:高性能机器学习
    • 5.1 适用于机器学习运行时的 TensorFlow Lite
    • 5.2 借助 TensorFlow Lite Delegate 实现硬件加速
  • 六、Android AICore
    • 6.1 通过 AICore 访问 AI 基础模型的优势
    • 6.2 支持的功能
    • 6.3 架构
    • 6.4 用例

机器学习是一种人工智能的分支,通过使用数据和统计模型来训练计算机系统,使其能够从经验中学习和改进。通过将机器学习与 Android 相结合,我们可以为移动应用带来许多有趣和强大的功能。

一、关于机器学习和Andorid

机器学习 (ML) 可让您的应用大幅提升,并添加用于处理图片、声音和文本的功能。

无论您是经验丰富的开发者,还是刚刚入门的新手,都可以向自己的应用中添加机器学习功能。

  • 低延迟时间:通过实时处理文本、音频和视频,解锁新的用户体验。

  • 将数据保留在设备上:在本地执行推断,而无需将用户数据发送到云端。

  • 可离线使用:无需网络连接,也不需要在云端运行服务。

  • 节省费用:通过在设备上运行机器学习功能来减少云费用。

二、使用 Gemini 让您的 Android 应用如虎添翼

2.1 Gemini API

在服务器上运行 Gemini

借助新的 Gemini API,您可以在 Google 服务器上运行模型推断。您可以从后端调用 API,也可以直接集成新的 Google AI SDK(一种适用于 Android 的客户端 SDK)。

2.2 Android AICore

在设备上运行 Gemini

从 Android 14 开始,Android AICore 是一项新的系统功能,可让您直接在设备上运行基础模型(例如 Gemini Nano)。

三、现成可用的还是自定义的机器学习

3.1 机器学习套件 SDK 的常见用户流

机器学习套件可针对常见问题提供可直接用于生产环境的解决方案,并且无需具备机器学习专业知识。模型是内置的,且针对移动设备进行了优化。机器学习套件易于使用,可让您专注于功能开发,而不是模型训练和优化。

3.2 高性能自定义机器学习

如果您想要获得更多控制权或部署自己的机器学习模型,Android 提供了基于 TensorFlow Lite 和 Google Play 服务构建的自定义机器学习堆栈,其中涵盖了部署高性能机器学习功能所需的基本信息。

四、机器学习套件 SDK:可立即使用,适用于常见用户流

机器学习套件让您可以在设备上访问可直接用于生产环境的机器学习模型。ML Kit API 针对移动设备进行了优化,不需要机器学习专业知识。机器学习套件 API 的示例包括:

人脸检测:在设备上实时检测某张照片是否包含人脸以及出现多少个人脸。

文字识别:识别中文、梵文、日语、韩语或任何拉丁字符语言的文本。

条形码扫描:读取采用最常见线性和 2D(二维码)格式的条形码编码数据。

更多机器学习 API:机器学习套件提供 10 多种视觉和语言 API,例如为图片加标签、姿势检测、翻译、智能回复等。

五、Android 的自定义机器学习堆栈:高性能机器学习

将高性能自定义机器学习功能部署到 Android 应用的基础知识。

5.1 适用于机器学习运行时的 TensorFlow Lite

通过 Android 的官方机器学习推断运行时 Google Play 服务使用 TensorFlow Lite 在您的应用中运行高性能机器学习推断。

5.2 借助 TensorFlow Lite Delegate 实现硬件加速

使用通过 Google Play 服务分发的 TensorFlow Lite Delegate 在 GPU、NPU 或 DSP 等专用硬件上运行加速的机器学习。这样可以帮助您使用高级设备端计算功能,为您的用户提供更流畅、更低延迟的用户体验。
在这里插入图片描述

我们目前为 GPU 和 NNAPI 受托人提供支持,并且我们正在与合作伙伴合作,通过 Google Play 服务提供其自定义受托人的访问权限,以支持高级用例。

由 Google Play 服务启用:使用 Play 服务访问 TensorFlow Lite 运行时和委托。这样可确保使用最新的稳定版,同时最大限度减少对应用的二进制文件大小的影响。

六、Android AICore

Android AICore 是一项新的系统服务,可让您访问在设备上运行的 AI 基础模型。

借助 AICore,您的 Android 应用可以访问 Gemini Nano,这是最小的 Gemini Nano,是 Google 在支持的设备上推出的先进基础模型。目前,多个 Google 产品都在使用 AICore。

6.1 通过 AICore 访问 AI 基础模型的优势

AICore 让 Android OS 能够提供和管理 AI 基础模型。这可显著降低在应用中使用这些大型模型的费用,主要原因如下:

  • 易于部署:AICore 负责管理 Gemini Nano 的分发并处理未来的更新。您无需担心通过网络下载或更新大型模型,也无需费心于对应用的磁盘和运行时内存预算的影响。
  • 使用硬件加速功能:AICore 运行时经过优化,可以从硬件加速中受益。您的应用可在每台设备上获得最佳性能,您无需担心底层硬件接口。

6.2 支持的功能

以下是 AICore 目前支持的核心功能:

  • 支持的设备:AICore 目前仅适用于 Pixel 8 Pro 设备。
  • 支持的模态:AICore 目前支持 Gemini Nano 的文本模态。

设备和模态支持是积极投资的领域。

6.3 架构

作为系统级模块,您可以通过一系列 API 访问 AICore,以便在设备上运行推断。您还可以提供 LoRA 微调块,以进一步优化 Gemini Nano 的应用性能。下图概述了应用如何访问 AICore 以在设备上运行 Gemini Nano。

在这里插入图片描述

6.4 用例

您可以通过 AICore 使用 Gemini Nano 完成以下任务:

  • AI 增强的内容消费:例如摘要、解答问题和实体提取。
  • AI 增强的内容生成功能:例如校对、语法更正、撰写辅助和上下文智能回复。

一些 Google 产品已在 Pixel 上使用 AICore,包括 Pixel 语音录制器和 Gboard。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/332581.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

如何用GPT进行数据处理?

详情点击链接:如何用GPT进行数据处理? 一OpenAI 1.最新大模型GPT-4 Turbo 2.最新发布的高级数据分析,AI画图,图像识别,文档API 3.GPT Store 4.从0到1创建自己的GPT应用 5. 模型Gemini以及大模型Claude2二定制自己…

C语言——整数和浮点数在内存中的存储

目录 一、整数在内存中的存储 二、大小端字节序和字节序判断 2.1 什么是大小端? 2.2 为什么有大小端? 2.3 练习 2.3.1 练习1 2.3.2 练习2 三、浮点数在内存中的存储 3.1练习 3.2 浮点数的存储 3.2.1浮点数存的过程 3.2.2浮点数取的过程 3.3 题目解…

什么是比特币?

比特币 比特币 (英语:Bitcoin,缩写:BTC )是一种基于 去中心化,采用 点对点网络,开放源代码,以 区块链 作为底层技术的 加密货币。比特币由 中本聪(Satoshi Nakamoto&…

【C++】C++的IO流

一、C语言的输入与输出 C 语言中我们用到的最频繁的输入输出方式就是 scanf () 与 printf()。 scanf():从标准输入设备(键盘)读取数据,并将值存放在变量中。printf():将指定的文字/字符串输出到标准输出设备&#xff…

翻译: Streamlit从入门到精通六 实战缓存Cache请求数据

Streamlit从入门到精通 系列: 翻译: Streamlit从入门到精通 基础控件 一翻译: Streamlit从入门到精通 显示图表Graphs 地图Map 主题Themes 二翻译: Streamlit从入门到精通 构建一个机器学习应用程序 三翻译: Streamlit从入门到精通 部署一个机器学习应用程序 四翻译…

flutter3使用dio库发送FormData数据格式时候的坑,和get库冲突解决办法

问题描述 问题1:当你使用FormData.from(Flutter3直接不能用)的时候,可能会提示没有这个方法,或者使用FormData.fromMap(flutter3的dio支持)的时候也提示没有,这时候可能就是和get库里面的Formdata冲突了 问题1:The me…

数据库经典面试题

习题一 1.1 创建表 ①创建Student表 mysql> create table Student ( -> Sno int primary key, -> Sname varchar(255), -> Ssex varchar(10), -> Sdept varchar(50) -> ); Query OK, 0 rows affected (0.01 sec) ②创建Course表 mysql…

物联网孢子捕捉分析仪在农田起到什么作用

TH-BZ03随着科技的飞速发展,物联网技术在农业领域的应用越来越广泛。其中,物联网孢子捕捉分析仪作为一种先进的设备,在农田中发挥着不可或缺的作用。本文将详细介绍物联网孢子捕捉分析仪在农田中的作用。 一、实时监测与预警 物联网孢子捕捉分…

TDengine 创始人陶建辉在汽车 CIOCDO 论坛发表演讲,助力车企数字化转型

当前,汽车行业的数字化转型如火如荼。借助数字技术的充分利用,越来越多的车企进一步提升了成本优化、应用敏捷性、高度弹性和效率。这一转型使得业务应用的开发和管理模式发生了颠覆性的创新,赋予了汽车软件快速响应变化和动态调度资源的能力…

FPGA引脚物理电平(内部资源,Select IO)-认知2

引脚电平 The SelectIO pins can be configured to various I/O standards, both single-ended and differential. • Single-ended I/O standards (e.g., LVCMOS, LVTTL, HSTL, PCI, and SSTL) • Differential I/O standards (e.g., LVDS, Mini_LVDS, RSDS, PPDS, BLVDS, and…

【RT-DETR有效改进】轻量化CNN网络MobileNetV2改进特征提取网络

前言 大家好,这里是RT-DETR有效涨点专栏。 本专栏的内容为根据ultralytics版本的RT-DETR进行改进,内容持续更新,每周更新文章数量3-10篇。 专栏以ResNet18、ResNet50为基础修改版本,同时修改内容也支持ResNet32、ResNet101和PP…

Debian 11.8.0 安装图解

引导和开始安装 这里直接回车确认即可,选择图形化安装方式。 选择语言 这里要区分一下,当前选中的语言作为安装过程中安装器所使用的语言,这里我们选择中文简体。不过细心的同学可能发现,当你选择安装器语言之后,后续安…

el-table实现搜索高亮展示并滚动到元素位置

效果展示&#xff1a; 代码 <!DOCTYPE html> <html lang"en"> <head><meta charset"UTF-8"><meta http-equiv"X-UA-Compatible" content"IEedge"><meta name"viewport" content"wid…

Dubbo-admin监控中心

监控中心 Dubbo-admin监控中心执行操作启动provider和consumer项目进行测试总体流程 Dubbo-admin监控中心 dubbo-admin下载路径 git clone https://github.com/apache/dubbo-admin.git图1-1 dubbo-admin项目文件展示 执行操作 # 启动zookeeper# 前端 cd dubbo-admin-ui npm i…

HTML前端CSS实现只显示1行或者2行、3行剩余显示省略号

想要做的效果: 文本只一行显示 /**实现思路&#xff1a;1.设置inline-block属相2.强制不换行3.固定高度4.隐藏超出部分5.显示“……”*/ {display: inline-block;white-space: nowrap; width: 100%; overflow: hidden;text-overflow:ellipsis; }文本只多行显示 /** 实现思路&…

ChatGLM-6B部署和微调实例

文章目录 前言一、ChatGLM-6B安装1.1 下载1.2 环境安装 二、ChatGLM-6B推理三、P-tuning 微调3.1微调数据集3.2微调训练3.3微调评估3.4 调用新的模型进行推理 总结 前言 ChatGLM-6B ChatGLM-6B 是一个开源的、支持中英双语的对话语言模型&#xff0c;基于 General Language Mo…

基于Prism框架的WPF前端框架开发《知产代理数字化解决方案》

最近新开发了一套WPF前端界面框架&#xff0c;叫《知产代理数字化解决方案》&#xff0c;采用了时下流行的Prism框架作为整个系统的基础架构&#xff0c;演示了Prism中的IRegionManager区域管理器、IDialogAware对话框、IDialogService对话框服务、IContainerExtension容器等用…

Python实现自动化办公(使用第三方库操作Excel)

1 使用 xlrd 读取Excel数据 1.1 获取具体单元格的数据 import xlrd# 1. 打开工作簿 workbook xlrd.open_workbook("D:/Python_study_projects/Python自动化办公/Excel/test1.xlsx") # 2. 打开工作表 sheet1 workbook.sheets()[0] # 选择所有工作表中的第一个 # …

阿里云地域和可用区分布表,2024更新

2024年阿里云服务器地域分布表&#xff0c;地域指数据中心所在的地理区域&#xff0c;通常按照数据中心所在的城市划分&#xff0c;例如华北2&#xff08;北京&#xff09;地域表示数据中心所在的城市是北京。阿里云地域分为四部分即中国、亚太其他国家、欧洲与美洲和中东&…

springcloud Ribbon负载均衡服务调用

文章目录 代码下载地址简介测试 Ribbon负载均衡算法手写RoundRobinRule源码8001/8002微服务改造80订单微服务改造测试 代码下载地址 地址:https://github.com/13thm/study_springcloud/tree/main/days6_Ribbon 简介 Spring Cloud Ribbon是基于Netflix Ribbon实现的一套客户端…