当前位置:
首页 > temp > python入门教程 >
-
Python 按分类样本数占比生成并随机获取样本数据
开发环境
win 10
python 3.6.5
需求
已知样本分类,每种分类的样本占比数,及样本总数,需要随机获取这些分类的样本。比如,我有4种任务,分别为任务A,任务B,任务C,任务D, 每种任务需要重复执行的总次数为1000,每次执行随机获取一种任务来执行,不同分类任务执行次数占比为 A:B:C:D = 3:5:7:9
代码实现
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
|
#!/usr/bin/env python # -*- coding:utf-8 -*- __author__ = 'shouke' import random def get_class_instance_by_proportion(class_proportion_dict, amount): """ 根据每种分类的样本数比例,及样本总数,为每每种分类构造样本数据 class_proportion_dict: 包含分类及其分类样本数占比的字典:{"分类(id)": 分类样本数比例} amount: 所有分类的样本数量总和 返回一个列表:包含所有分类样本的list """ bucket = [] proportion_sum = sum ([weight for group_id, weight in class_proportion_dict.items()]) residuals = {} # 存放每种分类的样本数计算差值 for class_id, weight in class_proportion_dict.items(): percent = weight / float (proportion_sum) class_instance_num = int ( round (amount * percent)) bucket.extend([class_id for x in range (class_instance_num)]) residuals[class_id] = amount * percent - round (amount * percent) if len (bucket) < amount: # 计算获取的分类样本总数小于给定的分类样本总数,则需要增加分类样本数,优先给样本数计算差值较小的分类增加样本数,每种分类样本数+1,直到满足数量为止 for class_id in [l for l, r in sorted (residuals.items(), key = lambda x: x[ 1 ], reverse = True )][: amount - len (bucket)]: bucket.append(class_id) elif len (bucket) > amount: # # 计算获取的分类样本总数大于给定的分类样本总数,则需要减少分类样本数,优先给样本数计算差值较大的分类减少样本数,每种分类样本数-1,直到满足数量为止 for class_id in [l for l, r in sorted (residuals.items(), key = lambda x: x[ 1 ])][: len (bucket) - amount]: bucket.remove(class_id) return bucket class A: def to_string( self ): print ( 'A class instance' ) class B: def to_string( self ): print ( 'B class instance' ) class C: def to_string( self ): print ( 'C class instance' ) class D: def to_string( self ): print ( 'D class instance' ) classes_map = { 1 : A, 2 : B, 3 :C, 4 : D} class_proportion_dict = { 1 : 3 , 2 : 5 , 3 : 7 , 4 : 9 } # {分类id: 样本数比例} ,即期望4个分类的样本数比例为为 3:5:7:9 class_instance_num = 1000 # 样本总数 result_list = get_class_instance_by_proportion(class_proportion_dict, class_instance_num) for class_id in class_proportion_dict: print ( '%s %s' % (classes_map[class_id], result_list.count(class_id))) # 制造样本并随机获取样本 random.shuffle(result_list) while result_list: class_id = random.sample(result_list, 1 )[ 0 ] classes_map[class_id]().to_string() result_list.remove(class_id) |
运行结果
说明
以上方式大致实现思路就是在知道总样本数的情况下,提前为每种分类生成样本,然后随机获取,按这种方式可以实现比较准确的结果,但是得提前知道样本总数及不同分类样本数占比
作者:授客
本文版权归原作者所有,仅供学习参考之用,转载请注明出处:https://www.cnblogs.com/shouke/p/14008590.html,未经作者允许请务必保留此段声明!
最新更新
nodejs爬虫
Python正则表达式完全指南
爬取豆瓣Top250图书数据
shp 地图文件批量添加字段
爬虫小试牛刀(爬取学校通知公告)
【python基础】函数-初识函数
【python基础】函数-返回值
HTTP请求:requests模块基础使用必知必会
Python初学者友好丨详解参数传递类型
如何有效管理爬虫流量?
2个场景实例讲解GaussDB(DWS)基表统计信息估
常用的 SQL Server 关键字及其含义
动手分析SQL Server中的事务中使用的锁
openGauss内核分析:SQL by pass & 经典执行
一招教你如何高效批量导入与更新数据
天天写SQL,这些神奇的特性你知道吗?
openGauss内核分析:执行计划生成
[IM002]Navicat ODBC驱动器管理器 未发现数据
初入Sql Server 之 存储过程的简单使用
SQL Server -- 解决存储过程传入参数作为s
关于JS定时器的整理
JS中使用Promise.all控制所有的异步请求都完
js中字符串的方法
import-local执行流程与node模块路径解析流程
检测数据类型的四种方法
js中数组的方法,32种方法
前端操作方法
数据类型
window.localStorage.setItem 和 localStorage.setIte
如何完美解决前端数字计算精度丢失与数