外观
日常运动量随机森林预测模型开发与测试
1.导入库
python
import pandas as pd
from sklearn.model_selection import train_test_split
from sklearn.ensemble import RandomForestRegressor
import pickle
from sklearn.metrics import mean_squared_error, r2_score
import xgboost as xgbpandas:数据处理库train_test_split:数据集划分⼯具RandomForestRegressor:随机森林回归模型pickle: Python 对象序列化模块mean_squared_error和r2_score:回归评估指标xgboost: XGBoost 梯度提升库
2.数据加载与预览
python
df = pd.read_csv('fitness analysis.csv')
print(df.head())pd.read_csv():读取 CSV ⽂件head():显⽰前 5 行数据- 功能:加载数据并初步检查数据结构
3.数据清洗
python
df = df.applymap(lambda x: x.strip() if isinstance(x, str) else x)
df.columns = df.columns.str.strip()applymap():对整个 DataFrame 应⽤函数str.strip():去除列名中的空格- 功能:统⼀数据格式,避免因空格导致的处理问题
4. 特征⼯程
python
X = df[['Your gender', 'How important is exercise to you ?', 'How healthy do you consider yourself?']]
X = pd.get_dummies(X) # 将分类变量转为数值变量
y = df['Your age'].apply(lambda x: int(x.split(' ')[0]))pd.get_dummies():将分类变量转为哑变量 (one-hot 编码 )apply():处理年龄数据- int() :转换为整数
- 功能:构建数值型特征矩阵和⽬标向量
5.数据集划分
python
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)train_test_split():划分训练 / 测试集- random_state=42 :固定随机种⼦保证可重复性
6.随机森林模型
python
rf_model = RandomForestRegressor(n_estimators=100, random_state=42)
rf_model.fit(X_train, y_train)RandomForestRegressor():创建随机森林模型- random_state=42 :固定随机种⼦
- fit() :训练模型
7.模型保存
python
with open('2.2.3_model.pkl', 'wb') as model_file:
pickle.dump(rf_model, model_file)pickle.dump():序列化保存模型- 保存到 '2.2.3_model.pkl'
8.预测与评估
python
y_pred = rf_model.predict(X_test)
results_df = pd.DataFrame(y_pred, columns=['预测结果'])
results_df.to_csv('2.2.3_results.txt', index=False)
train_score = rf_model.score(X_train, y_train)
test_score = rf_model.score(X_test, y_test)
mse = mean_squared_error(y_test, y_pred)
r2 = r2_score(y_test, y_pred)
with open('2.2.3_report.txt', 'w') as report_file:
report_file.write(f'训练集得分: {train_score}\n')
report_file.write(f'测试集得分: {test_score}\n')
report_file.write(f'均方误差(MSE): {mse}\n')
report_file.write(f'决定系数(R^2): {r2}\n')predict():⽣成预测结果score():计算 R² 决定系数mean_squared_error():计算均⽅误差r2_score():计算 R² 分数- 保存预测结果和多种评估指标
9.XGBoost 模型对⽐
python
xgb_model = xgb.XGBRegressor(n_estimators=100, random_state=42)
xgb_model.fit(X_train, y_train)
y_pred_xgb = xgb_model.predict(X_test)
results_df_xgb = pd.DataFrame(y_pred_xgb, columns=['预测结果'])
results_df_xgb.to_csv('2.2.3_results_xgb.txt', index=False)
with open('2.2.3_report_xgb.txt', 'w') as xgb_report_file:
xgb_report_file.write(f'XGBoost训练集得分: {xgb_model.score(X_train, y_train)}\n')
xgb_report_file.write(f'XGBoost测试集得分: {xgb_model.score(X_test, y_test)}\n')
xgb_report_file.write(f'XGBoost均方误差(MSE): {mean_squared_error(y_test, y_pred_xgb)}\n')
xgb_report_file.write(f'XGBoost决定系数(R^2): {r2_score(y_test, y_pred_xgb)}\n')XGBRegressor():创建 XGBoost 模型- 相同流程进⾏训练和评估
- 功能:与随机森林模型进⾏性能对⽐
10.错误分析
欠拟合:训练集得分较低且测试集得分为负,表明模型既没有很好地拟合训练数据,也没有泛化到新数据上,即出现了严重的欠拟合现象。
11.改进建议
- 增加模型的复杂度
- 特征工程:重新审视并优化特征选择,确保所选特征对于预测年龄具有较强的关联性。
- 超参数调优:使用网格搜索(Grid Search)或随机搜索(Randomized Search)来寻找最佳的超参数组合,以提高模型性能。
- 检查数据分布: 确认数据集是否代表了真实的分布,特别是目标变量(年龄)是否有足够的代表