爬虫如何抓取某一个时间段的数据

A. 如何做爬虫抓取数据

学习任何一门语言都是从入门，通过不间断练习达到熟练水准，少数人最终能精通语言，成为执牛耳者，他们是金字塔的最顶层。

当你决定学Python爬虫时，需要有一个清晰且短期内可实现的目标，比如通过学习找一份初级程序员工作。目标明确后，你需要知道企业对Python程序员的技能有哪些要求。

可能你会纠结是学Python2还是Python3，就像手里同时有包子和馒头，不知道先吃哪个，这种纠结完全就是徒增烦恼。

因为它们是同一种语言，只有少部分地方语法不兼容。Python3逐渐成为主流已是不争事实，毕竟后者性能方面更占有优势，官方也在力推Python3。所以选Python3吧，最多花一天的时间能把Python2中特有的内容搞懂。

至于有哪些资源现在可以用，你可以积极参与到相关的技术圈子中去，尝试去解答力所能及的新手问题，向圈子中的大牛们寻求帮助，善于总结自己所学到的东西，分享给更多的人。记住，你不是一个人在战斗!

只看书不会进步，思考和实践才有成长，自学编程是一个比较枯燥的过程，一定要坚持。

B. 如何爬取网站上的某一信息

两类网站可以用不同的方法去爬取
一、开放API的网站
一个网站如果开放了API，那么就可以直接GET到它的json数据。有三种方法可以判断一个网站是否开放了API。

1、在站内寻找API入口；

2、用搜索引擎搜索“某网站API”；

3、抓包。有的网站虽然用到了ajax，但是通过抓包还是能够获取XHR里的json数据的（可用抓包工具抓包，也可以通过浏览器按F12抓包：F12-Network-F5刷新）。

二、不开放API的网站

1、如果网站是静态页面，那么可以用requests库发送请求，再通过HTML解析库（lxml、parsel等）来解析响应的text；解析库强烈推荐parsel，不仅语法和css选择器类似，而且速度也挺快，Scrapy用的就是它。

2、如果网站是动态页面，可以先用selenium来渲染JS，再用HTML解析库来解析driver的page_source。

C. 爬虫应用示例--puppeteer数据抓取的实现方法(续1)

本文介绍《 爬虫应用示例--puppeteer数据抓取的实现方法 》中涉及到的puppeteer组件如何安装，以及相关的坑。

Puppeteer 是一个node库，内含了一个chrome浏览器，以及一组用来操纵Chrome的API。

相关资料：
1、github：https://github.com/puppeteer/puppeteer
2、中文资料：http://www.puppeteerjs.com/
3、API：https://chromedevtools.github.io/devtools-protocol/

安装方式：

1、方式一完整安装，包含chrome浏览器+API，npm i puppeteer【本文采用这种安装方式，因为项目需要浏览器自动化的远程数据自动化抓取】
2、方式二精简安装，只包含api，npm i puppeteer-core

说明：
1、以上语句执行一次如果出错，则可以再执行1到2次试试
2、也可以尝试用cnpm安装试试
3、总之要执行后，出现以上结果则说明安装成功

试过如下几种安装方式：
1、npm install puppeteer --save
2、npm install puppeteer --unsafe-perm=true --allow-root
3、npm install puppeteer --ignore-scripts
4、cnpm install puppeteer –save
5、cnpm install puppeteer --unsafe-perm=true --allow-root

其结果都是出现“Failed to set up Chromium r901912! Set "PUPPETEER_SKIP_DOWNLOAD" env variable to skip download.”的错误，安装失败。

D. Python爬虫常用的几种数据提取方式

数据解析方式
- 正则
- xpath
- bs4
数据解析的原理：
标签的定位
提取标签中存储的文本数据或者标签属性中存储的数据

E. 如何用爬虫爬取网页上的数据

用爬虫框架Scrapy， 三步
定义item类
开发spider类
开发pipeline
如果你想要更透的信息，你可以参考《疯狂python讲义》

F. 如何用python 爬虫抓取金融数据

获取数据是数据分析中必不可少的一部分，而网络爬虫是是获取数据的一个重要渠道之一。鉴于此，我拾起了Python这把利器，开启了网络爬虫之路。

本篇使用的版本为python3.5，意在抓取证券之星上当天所有A股数据。程序主要分为三个部分：网页源码的获取、所需内容的提取、所得结果的整理。

一、网页源码的获取

很多人喜欢用python爬虫的原因之一就是它容易上手。只需以下几行代码既可抓取大部分网页的源码。

为了减少干扰，我先用正则表达式从整个页面源码中匹配出以上的主体部分，然后从主体部分中匹配出每只股票的信息。代码如下。

pattern=re.compile('<tbody[sS]*</tbody>')
body=re.findall(pattern,str(content)) #匹配<tbody和</tbody>之间的所有代码pattern=re.compile('>(.*?)<')
stock_page=re.findall(pattern,body[0]) #匹配>和<之间的所有信息

其中compile方法为编译匹配模式，findall方法用此匹配模式去匹配出所需信息，并以列表的方式返回。正则表达式的语法还挺多的，下面我只罗列所用到符号的含义。

语法 说明

. 匹配任意除换行符“ ”外的字符

* 匹配前一个字符0次或无限次

？ 匹配前一个字符0次或一次

s 空白字符：[<空格> fv]

S 非空白字符：[^s]

[...] 字符集，对应的位置可以是字符集中任意字符

(...) 被括起来的表达式将作为分组，里面一般为我们所需提取的内容

正则表达式的语法挺多的，也许有大牛只要一句正则表达式就可提取我想提取的内容。在提取股票主体部分代码时发现有人用xpath表达式提取显得更简洁一些，看来页面解析也有很长的一段路要走。

三、所得结果的整理

通过非贪婪模式(.*?)匹配>和<之间的所有数据，会匹配出一些空白字符出来，所以我们采用如下代码把空白字符移除。

stock_last=stock_total[:] #stock_total：匹配出的股票数据for data in stock_total: #stock_last：整理后的股票数据
if data=='':
stock_last.remove('')

最后，我们可以打印几列数据看下效果，代码如下

print('代码',' ','简称',' ',' ','最新价',' ','涨跌幅',' ','涨跌额',' ','5分钟涨幅')for i in range(0,len(stock_last),13): #网页总共有13列数据
print(stock_last[i],' ',stock_last[i+1],' ',' ',stock_last[i+2],' ',' ',stock_last[i+3],' ',' ',stock_last[i+4],' ',' ',stock_last[i+5])

G. 如何用Python爬取数据

方法/步骤

• 在做爬取数据之前，你需要下载安装两个东西，一个是urllib,另外一个是python-docx。

  

• 7

  这个爬下来的是源代码，如果还需要筛选的话需要自己去添加各种正则表达式。

H. 爬虫技术之数据采集

将页面用字符的形式分析（正则表达式取出）所有的url存入特点数据结构（如链表），然后分别下载链表中的url指示的页面。再分析，再下载，不断循环。那么下载的页面，就是网上的网页。按一定的算法索引起来，就是你的数据了。按url转跳的顺序可以分为深度和广度优先。这是最简单的一个爬虫。只要防止无限的循环，（就是一个页面的url中全部都指向自身，那么爬虫就不断下载一个页面了）网上的数据最终都可以下载下来。爬虫就是这个思想。但真正的爬虫都是有智能的取舍算法，多只爬虫并行采集的复杂系统。

I. 怎么用VBA或网络爬虫程序抓取网站数据

VBA网抓常用方法
1、xmlhttp/winhttp法：
用xmlhttp/winhttp模拟向服务器发送请求，接收服务器返回的数据。
优点：效率高，基本无兼容性问题。
缺点：需要借助如fiddler的工具来模拟http请求。
2、IE/webbrowser法：
创建IE控件或webbrowser控件，结合htmlfile对象的方法和属性，模拟浏览器操作，获取浏览器页面的数据。
优点：这个方法可以模拟大部分的浏览器操作。所见即所得，浏览器能看到的数据就能用代码获取。
缺点：各种弹窗相当烦人，兼容性也确实是个很伤脑筋的问题。上传文件在IE里根本无法实现。
3、QueryTables法：
因为它是excel自带，所以勉强也算是一种方法。其实此法和xmlhttp类似，也是GET或POST方式发送请求，然后得到服务器的response返回到单元格内。
优点：excel自带，可以通过录制宏得到代码，处理table很方便
。代码简短，适合快速获取一些存在于源代码的table里的数据。
缺点：无法模拟referer等发包头

也可以利用采集工具进行采集网页端的数据，无需写代码。

J. 用爬虫爬一些平台的数据 是怎么爬

显然不能直接储存，你还得解析出自己需要的内容。 比如我爬取某新闻网今日的国内新闻，那么我创建一个实体类，里面有属性：新闻标题，新闻时间，正文等等。解析出你需要的内容，封到实体里面，然后在层直接save到数据库即可 如果你爬下的是整.