-
python爬虫之机器学习算法的随机数据生成总结
试听地址 https://www.xin3721.com/eschool/pythonxin3721/
在学习机器学习算法的过程中,我们经常需要数据来验证算法,调试参数。但是找到一组十分合适某种特定算法类型的数据样本却不那么容易。还好numpy, scikit-learn都提供了随机数据生成的功能,我们可以自己生成适合某一种模型的数据,用随机数据来做清洗,归一化,转换,然后选择模型与算法做拟合和预测。下面对scikit-learn和numpy生成数据样本的方法做一个总结。
1. numpy随机数据生成API
numpy比较适合用来生产一些简单的抽样数据。API都在random类中,常见的API有:
1) rand(d0, d1, ..., dn) 用来生成d0xd1x...dn维的数组。数组的值在[0,1]之间
例如:np.random.rand(3,2,2),输出如下3x2x2的数组
1
2
3
4
5
6
|
array([[[ 0.49042678 , 0.60643763 ], [ 0.18370487 , 0.10836908 ]], [[ 0.38269728 , 0.66130293 ], [ 0.5775944 , 0.52354981 ]], [[ 0.71705929 , 0.89453574 ], [ 0.36245334 , 0.37545211 ]]]) |
2) randn((d0, d1, ..., dn), 也是用来生成d0xd1x...dn维的数组。不过数组的值服从N(0,1)的标准正态分布。
例如:np.random.randn(3,2),输出如下3x2的数组,这些值是N(0,1)的抽样数据。
1
2
3
|
array([[ - 0.5889483 , - 0.34054626 ], [ - 2.03094528 , - 0.21205145 ], [ - 0.20804811 , - 0.97289898 ]]) |
如果需要服从N(μ,σ2)N(μ,σ2)的正态分布,只需要在randn上每个生成的值x上做变换σx+μσx+μ即可,例如:
例如:2*np.random.randn(3,2) + 1,输出如下3x2的数组,这些值是N(1,4)的抽样数据。
1
2
3
|
array([[ 2.32910328 , - 0.677016 ], [ - 0.09049511 , 1.04687598 ], [ 2.13493001 , 3.30025852 ]]) |
3)randint(low[, high, size]),生成随机的大小为size的数据,size可以为整数,为矩阵维数,或者张量的维数。值位于半开区间 [low, high)。
例如:np.random.randint(3, size=[2,3,4])返回维数维2x3x4的数据。取值范围为最大值为3的整数。
1
2
3
4
5
6
|
array([[[ 2 , 1 , 2 , 1 ], [ 0 , 1 , 2 , 1 ], [ 2 , 1 , 0 , 2 ]], [[ 0 , 1 , 0 , 0 ], [ 1 , 1 , 2 , 1 ], [ 1 , 0 , 1 , 2 ]]]) |