机器学习算法汇总

1. 监督学习算法： 线性回归：预测连续值。 逻辑回归：预测二元分类。 决策树：通过树状结构进行分类或回归。 随机森林：集成多个决策树以改善预测性能。 支持向量机（SVM）：在高维空间中找到最佳超平面进行分类。 K最近邻（KNN）：根据最相似的数据点进行分类或回归。

2. 无监督学习算法： K均值聚类：将数据点分组为K个簇。 层次聚类：创建一个树状结构来表示数据的层次关系。 主成分分析（PCA）：降维技术，通过正交变换将数据投影到较低维度的空间。 自组织映射（SOM）：将高维数据映射到低维网格上，保留拓扑结构。

4. 强化学习算法： Q学习：通过学习Q值来找到最优策略。 深度Q网络（DQN）：使用深度神经网络来估计Q值。 政策梯度：通过优化策略参数来最大化期望回报。

这些算法在机器学习领域中有广泛的应用，可以根据具体问题和数据特点选择合适的算法进行建模和预测。

一、监督学习算法（Supervised Learning）

1.1 回归算法（Regression Algorithms）

线性回归（Linear Regression）

岭回归（Ridge Regression）

lasso回归（Lasso Regression）

支持向量回归（Support Vector Regression，SVR）

1.2 分类算法（Classification Algorithms）

逻辑回归（Logistic Regression）

决策树（Decision Tree）

随机森林（Random Forest）

支持向量机（Support Vector Machine，SVM）

朴素贝叶斯（Naive Bayes）

K最近邻（K-Nearest Neighbors，KNN）

二、无监督学习算法（Unsupervised Learning）

无监督学习算法通过分析未标记的数据来发现数据中的模式。以下是几种常见的无监督学习算法：

2.1 聚类算法（Clustering Algorithms）

K均值（K-Means）

层次聚类（Hierarchical Clustering）

DBSCAN（Density-Based Spatial Clustering of Applications with Noise）

2.2 降维算法（Dimensionality Reduction Algorithms）

主成分分析（Principal Component Analysis，PCA）

线性判别分析（Linear Discriminant Analysis，LDA）

非负矩阵分解（Non-negative Matrix Factorization，NMF）

三、半监督学习算法（Semi-Supervised Learning）

图半监督学习（Graph-based Semi-supervised Learning）

四、强化学习算法（Reinforcement Learning）

Q学习（Q-Learning）

深度Q网络（Deep Q-Network，DQN）

策略梯度（Policy Gradient）

五、集成学习算法（Ensemble Learning）

Bagging（Bootstrap Aggregating）

Boosting（Boosting）

随机森林（Random Forest）

梯度提升决策树（Gradient Boosting Decision Tree，GBDT）