-
数据库操作 - NO SQL 数据库 - MongoDB
NoSQL,泛指非关系型的数据库:“随着互联网web2.0网站的兴起,传统的关系数据库在处理web2.0网站,特别是超大规模和高并发的SNS类型的web2.0纯动态网站已经显得力不从心,出现了很多难以克服的问题,而非关系型的数据库则由于其本身的特点得到了非常迅速的发展。NoSQL数据库的产生就是为了解决大规模数据集合多重数据种类带来的挑战,尤其是大数据应用难题。”
如下展示用Python语言操作MongoDB 这种非关系型数据库,获取数据库中目标数据,实现本地写入。
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
|
import pandas as pd from pymongo import ASCENDING, UpdateOne, MongoClient import traceback from pymongo import UpdateOne, ASCENDING from pymongo import MongoClient # 筛选数据 client = MongoClient( "localhost" , 27017 ) db = client[ 'local' ] col = db[ 'stock' ] data = pd.DataFrame( list (col.find())) data[ 'date' ] = pd.to_datetime(data[ 'date' ]) data_2019 = data[(data[ 'date' ] > = pd.to_datetime( '20190101' )) & (data[ 'date' ] < = pd.to_datetime( '20191231' ))] data_2019.columns = [ 'ID' , '_id' , '日期' , '代码' , '开盘' , '最高' , '最低' , '收盘' , '成交量' , '成交额' ] # 写入本地 data_2019.to_csv( 'D:/StockData/2019.csv' ,encoding = 'utf-8' ) |
以上代码的运行结果,请自行到如下地址获取:
- 沪深两市数据_2019
链接: https://pan.baidu.com/s/1Wq_FiiB8NdzPViFULNSRaw
提取码: 2hc4
但数据量较大,一般的excel无法正常打开。若想进一步分析,建议用数据库操作后续,本文只涉及技术层面相关信息。
转载自:https://www.cnblogs.com/yxmings/p/14244429.html
最新更新
nodejs爬虫
Python正则表达式完全指南
爬取豆瓣Top250图书数据
shp 地图文件批量添加字段
爬虫小试牛刀(爬取学校通知公告)
【python基础】函数-初识函数
【python基础】函数-返回值
HTTP请求:requests模块基础使用必知必会
Python初学者友好丨详解参数传递类型
如何有效管理爬虫流量?
2个场景实例讲解GaussDB(DWS)基表统计信息估
常用的 SQL Server 关键字及其含义
动手分析SQL Server中的事务中使用的锁
openGauss内核分析:SQL by pass & 经典执行
一招教你如何高效批量导入与更新数据
天天写SQL,这些神奇的特性你知道吗?
openGauss内核分析:执行计划生成
[IM002]Navicat ODBC驱动器管理器 未发现数据
初入Sql Server 之 存储过程的简单使用
SQL Server -- 解决存储过程传入参数作为s
JavaScript判断两个数组相等的四类方法
js如何操作video标签
React实战--利用甘特图和看板,强化Paas平
【记录】正则替换的偏方
前端下载 Blob 类型整理
抽象语法树AST必知必会
关于JS定时器的整理
JS中使用Promise.all控制所有的异步请求都完
js中字符串的方法
import-local执行流程与node模块路径解析流程