基于tesseract实现文档OCR识别

导入环境

导入必要的库
numpy: 用于处理数值计算。
argparse: 用于处理命令行参数。
cv2: OpenCV库，用于图像处理。

import numpy as np
import argparse
import cv2

设置命令行参数

ap = argparse.ArgumentParser()
ap.add_argument("-i", "--image", default="images/page.jpg", help="Path to the image to be scanned")
args = vars(ap.parse_args())

定义坐标排序函数

对四个坐标点进行排序，确定文档的四个角（左上，右上，右下，左下）。
使用欧氏距离来计算和排序点。

def order_points(pts):
	# 一共4个坐标点
	rect = np.zeros((4, 2), dtype = "float32")

	# 按顺序找到对应坐标0123分别是 左上，右上，右下，左下
	# 计算左上，右下
	s = pts.sum(axis = 1)
	rect[0] = pts[np.argmin(s)]
	rect[2] = pts[np.argmax(s)]

	# 计算右上和左下
	diff = np.diff(pts, axis = 1)
	rect[1] = pts[np.argmin(diff)]
	rect[3] = pts[np.argmax(diff)]

	return rect

此函数用于排序提供的四个点，确保点的顺序为左上、右上、右下和左下，这对后续的透视变换非常重要。

定义透视变换函数

使用cv2.getPerspectiveTransform和cv2.warpPerspective来计算变换矩阵并应用

def four_point_transform(image, pts):
	# 获取输入坐标点
	rect = order_points(pts)
	(tl, tr, br, bl) = rect

	# 计算输入的w和h值
	widthA = np.sqrt(((br[0] - bl[0]) ** 2) + ((br[1] - bl[1]) ** 2))
	widthB = np.sqrt(((tr[0] - tl[0]) ** 2) + ((tr[1] - tl[1]) ** 2))
	maxWidth = max(int(widthA), int(widthB))

	heightA = np.sqrt(((tr[0] - br[0]) ** 2) + ((tr[1] - br[1]) ** 2))
	heightB = np.sqrt(((tl[0] - bl[0]) ** 2) + ((tl[1] - bl[1]) ** 2))
	maxHeight = max(int(heightA), int(heightB))

	# 变换后对应坐标位置
	dst = np.array([
		[0, 0],
		[maxWidth - 1, 0],
		[maxWidth - 1, maxHeight - 1],
		[0, maxHeight - 1]], dtype = "float32")

	# 计算变换矩阵
	M = cv2.getPerspectiveTransform(rect, dst)
	warped = cv2.warpPerspective(image, M, (maxWidth, maxHeight))

	# 返回变换后结果
	return warped

接收原始图像和四个顶点坐标，然后应用透视变换，从而获取图像的正视图。

定义图像缩放函数

def resize(image, width=None, height=None, inter=cv2.INTER_AREA):
	dim = None
	(h, w) = image.shape[:2]
	if width is None and height is None:
		return image
	if width is None:
		r = height / float(h)
		dim = (int(w * r), height)
	else:
		r = width / float(w)
		dim = (width, int(h * r))
	resized = cv2.resize(image, dim, interpolation=inter)
	return resized

用于调整图像尺寸，使图像处理过程中的操作更加高效。

主逻辑部分

图像预处理:
- 读取图像，调整大小，并转换为灰度图。
- 应用高斯模糊和Canny边缘检测准备图像进行轮廓检测。
轮廓检测:
- 使用cv2.findContours寻找边缘，这是寻找文档轮廓的关键步骤。
- 选择轮廓面积最大的前五个轮廓。
透视变换:
- 对检测到的轮廓（如果准确地检测到四点）应用透视变换。
- 将图像从斜视角转换为正视图，便于文档的进一步处理和分析。
结果保存和显示:
- 应用二值化处理，并保存变换后的扫描图像。
- 显示原始和扫描后的图像。

关键知识点

高斯模糊 (GaussianBlur): 用于去除图像噪声并平滑图像。
Canny边缘检测 (Canny): 用于在图像中检测边缘，是轮廓检测的关键步骤。
轮廓检测 (findContours): 在二值图像中寻找轮廓，用于图形、图像和物体的形状分析。
透视变换 (getPerspectiveTransform, warpPerspective): 在进行文档扫描或修正图像视角时非常有用。

if __name__ == '__main__':

	# 读取输入
	image = cv2.imread(args["image"])
	#坐标也会相同变化
	ratio = image.shape[0] / 500.0
	orig = image.copy()


	image = resize(orig, height = 500)

	# 预处理
	gray = cv2.cvtColor(image, cv2.COLOR_BGR2GRAY)
	gray = cv2.GaussianBlur(gray, (5, 5), 0)
	edged = cv2.Canny(gray, 75, 200)

	# 展示预处理结果
	print("STEP 1: 边缘检测")
	cv2.imshow("Image", image)
	cv2.imshow("Edged", edged)
	cv2.waitKey(0)
	cv2.destroyAllWindows()

	# 轮廓检测 opencv3
	# cnts = cv2.findContours(edged.copy(), cv2.RETR_LIST, cv2.CHAIN_APPROX_SIMPLE)[1][0]
	# cnts = sorted(cnts, key = cv2.contourArea, reverse = True)[:5]

	# 使用OpenCV 4.x的方式来调用findContours
	contours, hierarchy = cv2.findContours(edged.copy(), cv2.RETR_LIST, cv2.CHAIN_APPROX_SIMPLE)

	# 确保轮廓是适当的数据类型
	cnts = [np.array(cnt, dtype='float32') for cnt in contours]

	# 排序并选择最大的5个轮廓
	cnts = sorted(cnts, key=cv2.contourArea, reverse=True)[:5]


	# 遍历轮廓
	screenCnt  =  None
	for c in cnts:
		# 计算轮廓近似
		peri = cv2.arcLength(c, True)
		# C表示输入的点集
		# epsilon表示从原始轮廓到近似轮廓的最大距离，它是一个准确度参数
		# True表示封闭的
		approx = cv2.approxPolyDP(c, 0.02 * peri, True)

		# 4个点的时候就拿出来
		if len(approx) == 4:
			screenCnt = approx.astype(int)
			break

	if screenCnt is not None:
		# 展示结果
		print("STEP 2: 获取轮廓")
		# print(screenCnt)
		cv2.drawContours(image, [screenCnt], -1, (0, 255, 0), 2)
		cv2.imshow("Outline", image)
		cv2.waitKey(0)
		cv2.destroyAllWindows()

		# 透视变换
		warped = four_point_transform(orig, screenCnt.reshape(4, 2) * ratio)

		# 二值处理
		warped = cv2.cvtColor(warped, cv2.COLOR_BGR2GRAY)
		ref = cv2.threshold(warped, 100, 255, cv2.THRESH_BINARY)[1]
		cv2.imwrite('scan.jpg', ref)
		# 展示结果
		print("STEP 3: 变换")
		cv2.imshow("Original", resize(orig, height = 650))
		cv2.imshow("Scanned", resize(ref, height = 650))
		cv2.waitKey(0)

Canny算子检测结果图：
定四个顶点
仿射变换结果

OCR识别

Tesseract 是一个开源的光学字符识别（OCR）引擎，最初由惠普实验室于1985年开发，并在2006年由Google赞助成为一个开源项目。Tesseract 能够识别多种格式的图像文件并将它们转换成文本。它支持多种语言的识别，并且可以通过训练来识别新的语言或优化现有语言的识别效果。

主要特点：

多语言支持：Tesseract 支持100多种语言的识别。
高度可定制：用户可以训练Tesseract来识别新的字体或优化特定语言的识别。
多种输出格式：Tesseract 可以输出普通文本、hOCR（带有布局信息的HTML）、PDF等格式。
集成易用：可以通过命令行使用，也可通过其API集成到其他应用程序中，比如通过pytesseract在Python中使用。

使用方法：

在命令行中，Tesseract 可以简单地通过指定输入图像和输出文件名来使用，如：

tesseract image.png output -l eng

这里-l eng指定了使用英语语言包。

pytesseract：

在Python中，pytesseract是一个将Tesseract引擎功能封装的库，允许Python直接调用Tesseract进行图像到文本的转换。使用前需要确保Tesseract已安装在系统上，并且正确配置了环境变量或在pytesseract的tesseract_cmd属性中指定了Tesseract的路径。

应用场景：

文档数字化：将纸质文档扫描后识别为数字文本。
自动化表单处理：从填写的表单中提取信息。
车牌识别：用于交通监控或自动收费系统。
辅助技术：帮助视觉障碍人士阅读印刷材料。

Tesseract是一个功能强大的工具，因其开源和高效被广泛用于商业和研究领域。

1. 导入必要的库

PIL (Python Imaging Library): 用于图像的打开和处理。
pytesseract: 是Google的Tesseract-OCR引擎的Python封装，用于识别图像中的文字。
cv2 (OpenCV): 用于图像处理的库，这里用于读取和预处理图像。

from PIL import Image
import pytesseract
import cv2
import os

2. 图像预处理

读取图像: 使用cv2.imread读取图像文件。
转换为灰度图: 使用cv2.cvtColor将读取的彩色图像转换为灰度图，因为OCR通常在灰度图上进行。
应用阈值或模糊处理:
- 如果预处理方式为"thresh"（阈值），使用cv2.threshold应用阈值化处理，这可以帮助去除背景噪声并突出文本。
- 如果预处理方式为"blur"（模糊），使用cv2.medianBlur应用中值模糊，以减少图像噪声。

preprocess = 'blur' #thresh

image = cv2.imread('scan.jpg')
gray = cv2.cvtColor(image, cv2.COLOR_BGR2GRAY)

if preprocess == "thresh":
    gray = cv2.threshold(gray, 0, 255,cv2.THRESH_BINARY | cv2.THRESH_OTSU)[1]

if preprocess == "blur":
    gray = cv2.medianBlur(gray, 3)

3. 保存处理后的图像

保存文件: 使用cv2.imwrite将处理后的灰度图像临时保存为一个新文件，文件名由当前进程ID命名。

4. 文本识别

使用pytesseract.image_to_string函数读取步骤3中保存的灰度图像文件，识别其中的文本。

filename = "{}.png".format(os.getpid())
cv2.imwrite(filename, gray)
    
text = pytesseract.image_to_string(Image.open(filename))
print(text)
os.remove(filename)

cv2.imshow("Image", image)
cv2.imshow("Output", gray)
cv2.waitKey(0)