如何使用 Go语言操作亚马逊 S3 对象云存储

以下是使用 Go 语言操作亚马逊 S3 对象云存储的详细步骤和示例代码:

解决思路:

  1. 安装必要的 Go 语言包,这里我们将使用 aws-sdk-go 包来与 Amazon S3 进行交互。
  2. 配置 AWS 凭证,包括访问密钥和秘密访问密钥,以及 AWS 区域。
  3. 使用 aws-sdk-go 创建 S3 客户端。
  4. 通过 S3 客户端执行各种操作,如上传文件、下载文件、列出存储桶中的对象等。

示例代码:

package s3Uploader

import (
	"bytes"
	"errors"
	"fmt"
	"github.com/aws/aws-sdk-go/aws"
	"github.com/aws/aws-sdk-go/aws/credentials"
	"github.com/aws/aws-sdk-go/aws/session"
	"github.com/aws/aws-sdk-go/service/s3/s3manager"
	"github.com/chai2010/webp" // WebP 库
	"github.com/nfnt/resize"
	"html"
	"image"
	"image/jpeg"
	"image/png"
	"net/http"
	"os"
	"strings"
	"upos/src/config"
)

type S3Uploader struct {
	Name        string
	Scale       config.Scale
	Cfg         config.Sharktech
	uploader    *s3manager.Uploader
	ContentType string
}

var (
	ErrorUnsupportedImageFormat = errors.New("不支持的图片格式")
)

func NewS3Uploader(cfg config.Sharktech) (*S3Uploader, error) {
	sess, err := session.NewSession(&aws.Config{
		Region:   aws.String(cfg.S3.Region),
		Endpoint: aws.String(cfg.S3.Endpoint),
		/*
			Set this to `true` to force the request to use path-style addressing,
			i.e., `http://s3.amazonaws.com/BUCKET/KEY`. By default, the S3 client
			will use virtual hosted bucket addressing when possible
			(`http://BUCKET.s3.amazonaws.com/KEY`).
		*/
		S3ForcePathStyle: aws.Bool(true),
		Credentials:      credentials.NewStaticCredentials(cfg.S3.AccessId, cfg.S3.AccessKey, ""),
	})
	if err != nil {
		return nil, err
	}

	uploader := s3manager.NewUploader(sess)

	return &S3Uploader{
		Cfg:      cfg,
		Scale:    config.YC.Scale,
		uploader: uploader,
	}, nil
}

func (u *S3Uploader) ConvertWebPToJPG(file *os.File) (image.Image, error) {
	// 解码 WebP 文件为 image.Image
	img, err := webp.Decode(file)
	if err != nil {
		return nil, fmt.Errorf("解码 WebP 文件失败: %w", err)
	}

	return img, nil
}

func (u *S3Uploader) ScaleImage(img image.Image, maxWidth, maxHeight uint) image.Image {
	// 获取原始图片的宽度和高度
	originalWidth := img.Bounds().Dx()
	originalHeight := img.Bounds().Dy()

	// 计算缩放比例
	ratio := float64(originalWidth) / float64(originalHeight)

	var newWidth, newHeight uint
	if ratio > 1 { // 图片宽 > 高
		newWidth = maxWidth
		newHeight = uint(float64(maxWidth) / ratio)
	} else { // 图片高 >= 宽
		newHeight = maxHeight
		newWidth = uint(float64(maxHeight) * ratio)
	}

	return resize.Resize(newWidth, newHeight, img, resize.Lanczos3)
}

// 根据图片格式生成 Content-Type
func (u *S3Uploader) getContentType(format string) string {
	switch strings.ToLower(format) {
	case ".jpg", ".jpeg":
		return "image/jpeg"
	case ".png":
		return "image/png"
	case ".webp":
		return "image/webp"
	default:
		return "application/octet-stream" // 默认值
	}
}

// 根据文件扩展名选择编码格式
func (u *S3Uploader) encodeImage(buf *bytes.Buffer, img image.Image, format string) error {
	switch strings.ToLower(format) {
	case ".jpg", ".jpeg":
		return jpeg.Encode(buf, img, nil)
	case ".png":
		return png.Encode(buf, img)
	case ".webp":
		return webp.Encode(buf, img, &webp.Options{Lossless: true})
	default:
		return ErrorUnsupportedImageFormat
	}
}

// DetectFormatAndDecode 根据文件头判断图片格式并解码
func (u *S3Uploader) DetectFormatAndDecode(filePath string) (image.Image, string, error) {
	// 打开文件
	file, err := os.Open(filePath)
	if err != nil {
		return nil, "", err
	}
	defer file.Close()

	// 读取文件头前 12 个字节
	header := make([]byte, 12)
	_, err = file.Read(header)
	if err != nil {
		return nil, "", err
	}

	// 重置文件读取位置
	_, err = file.Seek(0, 0)
	if err != nil {
		return nil, "", err
	}

	// 根据文件头判断格式
	var img image.Image
	var ext string
	switch {
	case bytes.HasPrefix(header, []byte("\xFF\xD8\xFF")):
		// JPEG 文件头
		img, err = jpeg.Decode(file)
		ext = ".jpg"
	case bytes.HasPrefix(header, []byte("\x89PNG\r\n\x1a\n")):
		// PNG 文件头
		img, err = png.Decode(file)
		ext = ".png"
	case bytes.HasPrefix(header, []byte("RIFF")) && bytes.Contains(header[8:], []byte("WEBP")):
		// WebP 文件头
		img, err = webp.Decode(file)
		ext = ".webp"
	default:
		err = errors.New("unsupported image format")
	}

	return img, ext, err
}

func (u *S3Uploader) Resize(filePath string) (buf bytes.Buffer, err error) {

	newImg, ext, err := u.DetectFormatAndDecode(filePath)
	if err != nil {
		return bytes.Buffer{}, err
	}

	u.ContentType = u.getContentType(ext)

	// 将缩放后的图片编码为 JPEG 格式
	err = u.encodeImage(&buf, newImg, ext)
	if err != nil {
		return
	}

	return buf, nil
}

func (u *S3Uploader) Upload(filePath string, key string) error {
	buf, err := u.Resize(filePath)
	if err != nil {
		return err
	}

	_, err = u.uploader.Upload(&s3manager.UploadInput{
		ACL:    aws.String("public-read"), // 设置为 public-read
		Bucket: aws.String(u.Cfg.S3.Bucket),
		Key:    aws.String(key),
		// TODO:: 不传Content-Type的好处是WP站点不好外链
		// ContentType: aws.String(u.ContentType),
		Body: bytes.NewReader(buf.Bytes()),
	})

	if err != nil {
		return err
	}

	return nil
}

func (u *S3Uploader) DownloadAndUpload(imageUrl string, key string) error {
	buf, err := u.DownloadAndResizeImage(imageUrl)
	if err != nil {
		return err
	}

	_, err = u.uploader.Upload(&s3manager.UploadInput{
		ACL:    aws.String("public-read"), // 设置为 public-read
		Bucket: aws.String(u.Cfg.S3.Bucket),
		Key:    aws.String(key),
		// TODO:: 不传Content-Type的好处是WP站点不好外链
		// ContentType: aws.String(u.ContentType),
		Body: bytes.NewReader(buf.Bytes()),
	})

	if err != nil {
		return err
	}

	return nil
}

func (u *S3Uploader) DownloadAndResizeImage(imgURL string) (buf bytes.Buffer, err error) {
	imgURL = html.UnescapeString(imgURL)
	// 创建请求
	req, err := http.NewRequest("GET", imgURL, nil)
	if err != nil {
		return
	}

	// 设置 Referer 或 User-Agent,模拟合法请求
	req.Header.Set("Referer", "https://www.google.com")
	req.Header.Set("User-Agent", "Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_7) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/129.0.0.0 Safari/537.36")

	// 发起请求
	client := &http.Client{}
	resp, err := client.Do(req)
	if err != nil {
		return
	}
	defer resp.Body.Close()

	// 检查响应的Content-Type
	contentType := resp.Header.Get("Content-Type")
	// log.Println("Content-Type:", contentType)

	if !strings.HasPrefix(contentType, "image/") {
		err = fmt.Errorf("invalid content type: %s", contentType)
		return
	}

	// 读取图片
	img, _, err := image.Decode(resp.Body)
	if err != nil {
		return
	}

	newImg := u.ScaleImage(img, u.Scale.Width, u.Scale.Height)

	// 将缩放后的图片编码为 JPG 格式
	err = u.encodeImage(&buf, newImg, ".jpg")
	if err != nil {
		return
	}

	return buf, nil
}

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/954892.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

uniApp开通uniPush1.0个推,SpringBoot集成uniPush1.0个推

uniApp开通unipush1.0个推,SpringBoot程序集成 一、APP开通unipush1.0个推(商户App源码仅支持1.0个推) 1.app模块配置开通推送 2.应用开通推送 3.开通后点击消息推送菜单会看到如下页面 完成以上步骤后 此时android 仅支持在线推送。 4.配置各厂商离线推送 暂未…

升级 SpringBoot3 全项目讲解 — 为什么 SpringBoot3 应该抛弃 Maven,搭配 Gradle 来使用?

学会这款 🔥全新设计的 Java 脚手架 ,从此面试不再怕! 随着 Spring Boot 3 的发布,许多开发者开始考虑如何将现有项目升级到最新版本。Spring Boot 3 带来了许多新特性,包括对 Java 17 的支持、更好的性能优化以及对 G…

Yolov8 目标检测剪枝学习记录

最近在进行YOLOv8系列的轻量化,目前在网络结构方面的优化已经接近极限了,所以想要学习一下模型剪枝是否能够进一步优化模型的性能 这里主要参考了torch-pruning的基本使用,v8模型剪枝,Jetson nano部署剪枝YOLOv8 下面只是记录一个…

【深度学习】关键技术-激活函数(Activation Functions)

激活函数(Activation Functions) 激活函数是神经网络的重要组成部分,它的作用是将神经元的输入信号映射到输出信号,同时引入非线性特性,使神经网络能够处理复杂问题。以下是常见激活函数的种类、公式、图形特点及其应…

图数据库 | 18、高可用分布式设计(中)

上文我们聊了在设计高性能、高可用图数据库的时候,从单实例、单节点出发,一般有3种架构演进选项:主备高可用,今天我们具体讲讲分布式共识,以及大规模水平分布式。 主备高可用、分布式共识、大规模水平分布式&#xff…

Oracle 终止正在执行的SQL

目录 一. 背景二. 操作简介三. 投入数据四. 效果展示 一. 背景 项目中要求进行性能测试,需要向指定的表中投入几百万条数据。 在数据投入的过程中发现投入的数据不对,需要紧急停止SQL的执行。 二. 操作简介 👉需要DBA权限👈 ⏹…

Datawhale组队学习笔记task1——leetcode面试题

文章目录 写在前面刷题流程刷题技巧 Day1题目1、0003.无重复字符的最长子串解答:2.00004 寻找两个正序数组的中位数解答:3.0005.最长回文子串解答4.0008.字符串转换整数解答: Day2题目1.0151.反转字符串中的单词解答2.0043.字符串相乘解答3.0…

K3二开:在工业老单工具栏增加按钮,实现打印锐浪报表

在上次实现用GridRepot报表实现打印任务单后,在想着能不能给将生产任务单原来要通过点击菜单栏,打印任务单的功能,在工具栏上也增加按钮实现,这样就不需要多点了。 原本是需要点击菜单栏才能实现的 现在在工具栏上增加按钮实现同…

[计算机网络]一. 计算机网络概论第一部分

作者申明&#xff1a;作者所有文章借助了各个渠道的图片视频以及资料&#xff0c;在此致谢。作者所有文章不用于盈利&#xff0c;只是用于个人学习。 1.0推荐动画 【网络】半小时看懂<计算机网络>_哔哩哔哩_bilibili 1.1计算机网络在信息时代的作用 在当今信息时代&…

机器学习之支持向量机SVM及测试

目录 1 支持向量机SVM1.1 概念1.2 基本概念1.3 主要特点1.4 优缺点1.5 核函数1.6 常用的核函数1.7 函数导入1.8 函数参数 2 实际测试2.1 二维可视化测试代码2.2 多维测试 1 支持向量机SVM 1.1 概念 支持向量机&#xff08;Support Vector Machine&#xff0c;简称SVM&#xff…

云服务信息安全管理体系认证,守护云端安全

在数据驱动的时代&#xff0c;云计算已成为企业业务的超级引擎&#xff0c;推动着企业飞速发展。然而&#xff0c;随着云计算的广泛应用&#xff0c;信息安全问题也日益凸显&#xff0c;如同暗流涌动下的礁石&#xff0c;时刻威胁着企业的航行安全。这时&#xff0c;云服务信息…

服务器数据恢复—Zfs文件系统数据恢复案例

服务器数据恢复环境&故障&#xff1a; 一台zfs文件系统的服务器&#xff0c;管理员误操作删除了服务器上的数据。 服务器数据恢复过程&#xff1a; 1、将故障服务器中所有硬盘做好标记后取出&#xff0c;硬件工程师检测后没有发现有硬盘存在硬件故障。以只读方式将所有硬盘…

​​​​​​​​​​​​​​★3.3 事件处理

★3.3.1 ※MouseArea Item <-- MouseArea 属性 acceptedButtons : Qt::MouseButtons containsMouse : bool 【书】只读属性。表明当前鼠标光标是否在MouseArea上&#xff0c;默认只有鼠标的一个按钮处于按下状态时才可以被检测到。 containsPress : bool curs…

GIS大模型:三维重建与建模

文章目录 数据收集预处理特征提取深度估计点云生成表面重建纹理映射大模型的角色 大模型在三维重建与建模方面&#xff0c;尤其是在处理低空地图数据时&#xff0c;展现了其强大的能力。通过使用深度学习算法&#xff0c;特别是那些基于卷积神经网络&#xff08;CNNs&#xff0…

wireshark抓路由器上的包 抓包路由器数据

文字目录 抓包流程概述设置抓包配置选项 设置信道设置无线数据包加密信息设置MAC地址过滤器 抓取联网过程 抓包流程概述 使用Omnipeek软件分析网络数据包的流程大概可以分为以下几个步骤&#xff1a; 扫描路由器信息&#xff0c;确定抓包信道&#xff1b;设置连接路由器的…

阿里云无影云电脑的使用场景

阿里云无影云电脑是一种安全、高效的云上虚拟桌面服务&#xff0c;广泛应用于多种场景&#xff0c;包括教育、企业办公、设计与视频制作、客服中心等。以下是九河云总结的无影云电脑的几个典型使用场景&#xff1a; #### 1. 教育机构 - **业务痛点**&#xff1a; - 学生实践操…

力扣 查找元素的位置

二分查找经典例题。 题目 要是只是从数组中用二分查找对应的元素&#xff0c;套一下模板一下就可以得出了&#xff0c;然后这题就在于其中会有多个目标元素&#xff0c;要用不同的方式在找到第一个元素时再做偏移。 时间复杂度&#xff1a;O(log n)&#xff0c;空间复杂度&am…

Profibus DP转Modbus TCP协议转换网关模块功能详解

Profibus DP 和 Modbus TCP 是两种不同的工业现场总线协议&#xff0c;Profibus DP 常用于制造业自动化领域&#xff0c;而 Modbus TCP 则在工业自动化和楼宇自动化等领域广泛应用。实现 Profibus DP 转 Modbus TCP 功能&#xff0c;通常需要特定的网关设备&#xff0c;以下为你…

SQL Prompt 插件

SQL Prompt 插件 注&#xff1a;SQL Prompt插件提供智能代码补全、SQL格式化、代码自动提示和快捷输入等功能&#xff0c;非常方便&#xff0c;可以自行去尝试体会。 1、问题 SSMS&#xff08;SQL Server Management Studio&#xff09;是SQL Server自带的管理工具&#xff0c…

OpenCV基础:矩阵的创建、检索与赋值

本文主要是介绍如何使用numpy进行矩阵的创建&#xff0c;以及从矩阵中读取数据&#xff0c;修改矩阵数据。 创建矩阵 import numpy as npa np.array([1,2,3]) b np.array([[1,2,3],[4,5,6]]) #print(a) #print(b)# 创建全0数组 eros矩阵 c np.zeros((8,8), np.uint8) #prin…