目录
- 创建一个人工数据集
- 处理缺失的数据
- 插入
- 对inputs中的类别值或离散值,将NaN视为一个类别
- 对inputs和outputs中的数值类型转换为张量格式
创建一个人工数据集
import os
import pandas as pd
os.makedirs(os.path.join('..', 'data'), exist_ok=True)
data_file = os.path.join('..', 'data', 'house_tiny.csv')
with open(data_file, 'w') as f:
f.write('NumRooms,Alley,Price\n')
f.write('NA,Pave,127500\n')
f.write('2,NA,10600\n')
f.write('4,NA,178100\n')
f.write('NA,NA,140000\n')
data = pd.read_csv(data_file)
print(data)
结果:
os.makedirs():递归创建目录
os.path.join(‘. .’, ‘data’): ‘. .’(代表上一级目录
exist_ok=True:当设置为True时,如果目录已经存在,os.makedirs()不会引发错误。
默认情况下,如果目录已存在,os.makedirs()会引发一个FileExistsError
处理缺失的数据
典型的方法包括插值和删除
插入
import os
import pandas as pd
data_file = os.path.join('..', 'data', 'house_tiny.csv')
data = pd.read_csv(data_file)
inputs, outputs = data.iloc[:, 0:2], data.iloc[:, 2]
inputs = inputs.fillna(inputs.select_dtypes(include='number').mean())
print(inputs)
结果:
对于这种情况:
import os
import pandas as pd
data_file = os.path.join('..', 'data', 'house_tiny.csv')
data = pd.read_csv(data_file)
inputs, outputs = data.iloc[:, 0:2], data.iloc[:, 2]
inputs = inputs.fillna(inputs.mean())
print(inputs)
结果:
分析:
首先先选出数据类型再求平均值填充
iloc[]是切片操作,data.iloc[:, 0:2]中0:2 表示取从第 0 列和第1列。
data.iloc[:, 2]中2表示下标为2的列,即第三列。
import os
import pandas as pd
data_file = os.path.join('..', 'data', 'house_tiny.csv')
data = pd.read_csv(data_file)
inputs, outputs = data.iloc[:, 0:2], data.iloc[:, 2]
print(outputs)
结果:
对inputs中的类别值或离散值,将NaN视为一个类别
import os
import pandas as pd
data_file = os.path.join('..', 'data', 'house_tiny.csv')
data = pd.read_csv(data_file)
inputs, outputs = data.iloc[:, 0:2], data.iloc[:, 2]
inputs = inputs.fillna(inputs.mean(numeric_only=True))
#inputs.fillna(inputs.select_dtypes(include='number').mean())
inputs = pd.get_dummies(inputs, dummy_na=True, dtype=int)
print(inputs)
结果:
对inputs和outputs中的数值类型转换为张量格式
import os
import pandas as pd
import torch
data_file = os.path.join('..', 'data', 'house_tiny.csv')
data = pd.read_csv(data_file)
inputs, outputs = data.iloc[:, 0:2], data.iloc[:, 2]
inputs = inputs.fillna(inputs.mean(numeric_only=True))
inputs = pd.get_dummies(inputs, dummy_na=True, dtype=int)
x, y = torch.tensor(inputs.values), torch.tensor(outputs.values)
print(x)
print(y)
结果: