1、稀疏的回归的基本思想是将样本的稀疏系数权重作为比例信息引入低维嵌入模型中，利用稀疏约束因子来建立惩罚模型，将一些作用小的数据系数权重置为０或趋于零，对特征起到选择作用。

2、符号回归是根据给定的数据集，在指 定 的 符号空间内搜索能够拟合数据集的公式。

3、高斯过程回归是使用高斯过程先验对数据进行回归分析的非参数模型。