爬什麼數據好

㈠ 爬蟲技術可以爬取什麼數據

簡單來講，爬蟲就是一個探測機器，它的基如局本操作就是模擬人的行為去各個網站溜達，點點按鈕，查查數據，或者把看到的信息背回敗橡巧來。就像一隻蟲子在一幢樓里不知疲倦地爬來爬去。

所以說，爬蟲系統有2個功能：

爬數據

爬取數據，比如你想要知道1000個商品在不同的電商網站的價格分別是多少，這樣你可以采購到最低價。人工一頁頁打開太慢了，而且這些網站也在不停更新價格。你就可以用爬蟲系統，設定好邏輯，幫你從N個網站爬取你要的商品的價格，甚至可以同步進行比較計算，最後輸出一份報告給你，哪個網站最便宜。

市面上有很多察鍵0代碼的免費爬蟲系統，比如之前我為了爬取2個游戲虛擬物品在不同網站的差異，就使用過，非常簡便。這里就不說名字了，有做廣告的嫌疑。

㈡ python爬蟲一般都爬什麼信息

python爬蟲一般都爬什麼信息？
一般說爬蟲的時候，大部分程序員潛意識里都會聯想為Python爬蟲，為什麼會這樣，我覺得有兩個原因：
1.Python生態極其豐富，諸如Request、Beautiful Soup、Scrapy、PySpider等第三方庫實在強大
2.Python語法簡潔易上手，分分鍾就能寫出一個爬蟲（有人吐槽Python慢，但是爬蟲的瓶頸和語言關系不大）
爬蟲是一個程序，這個程序的目的就是為了抓取萬維網信息資源，比如你日常使用的谷歌等搜索引擎，搜索結果就全都依賴爬蟲來定時獲取
看上述搜索結果，除了wiki相關介紹外，爬蟲有關的搜索結果全都帶上了Python，前人說Python爬蟲，現在看來果然誠不欺我～
爬蟲的目標對象也很豐富，不論是文字、圖片、視頻，任何結構化非結構化的數據爬蟲都可以爬取，爬蟲經過發展，也衍生出了各種爬蟲類型：
● 通用網路爬蟲：爬取對象從一些種子 URL 擴充到整個 Web，搜索引擎乾的就是這些事
● 垂直網路爬蟲：針對特定領域主題進行爬取，比如專門爬取小說目錄以及章節的垂直爬蟲
● 增量網路爬蟲：對已經抓取的網頁進行實時更新
● 深層網路爬蟲：爬取一些需要用戶提交關鍵詞才能獲得的 Web 頁面
不想說這些大方向的概念，讓我們以一個獲取網頁內容為例，從爬蟲技術本身出發，來說說網頁爬蟲，步驟如下：
模擬請求網頁資源
從HTML提取目標元素
數據持久化
相關推薦：《Python教程》以上就是小編分享的關於python爬蟲一般都爬什麼信息的詳細內容希望對大家有所幫助，更多有關python教程請關注環球青藤其它相關文章！

㈢ 網路爬蟲抓取數據 有什麼好的應用

一般抓數據的話可以學習Python，但是這個需要代碼的知識。
如果是沒有代碼知識的小白可以試試用成熟的採集器。
目前市面比較成熟的有八爪魚，後羿等等，但是我個人習慣八爪魚的界面，用起來也好上手，主要是他家的教程容易看懂。可以試試。

㈣ 有哪些網站用爬蟲爬取能得到很有價值的數據

一般有一下幾種
一些常用的方法
IP代理
對於IP代理,各個語言的Native
Request
API都提供的IP代理響應的API,
需要解決的主要就是IP源的問題了.
網路上有廉價的代理IP(1元4000個左右),
我做過簡單的測試,
100個IP中,
平均可用的在40-60左右,
訪問延遲均在200以上.
網路有高質量的代理IP出售,
前提是你有渠道.
因為使用IP代理後,
延遲加大,
失敗率提高,
所以可以將爬蟲框架中將請求設計為非同步,
將請求任務加入請求隊列(RabbitMQ,Kafka,Redis),
調用成功後再進行回調處理,
失敗則重新加入隊列.
每次請求都從IP池中取IP,
如果請求失敗則從IP池中刪除該失效的IP.
Cookies
有一些網站是基於cookies做反爬蟲,
這個基本上就是如
@朱添一
所說的,
維護一套Cookies池
注意研究下目標網站的cookies過期事件,
可以模擬瀏覽器,
定時生成cookies
限速訪問
像開多線程,循環無休眠的的暴力爬取數據,
那真是分分鍾被封IP的事,
限速訪問實現起來也挺簡單(用任務隊列實現),
效率問題也不用擔心,
一般結合IP代理已經可以很快地實現爬去目標內容.
一些坑
大批量爬取目標網站的內容後,
難免碰到紅線觸發對方的反爬蟲機制.
所以適當的告警提示爬蟲失效是很有必有的.
一般被反爬蟲後,
請求返回的HttpCode為403的失敗頁面,
有些網站還會返回輸入驗證碼(如豆瓣),
所以檢測到403調用失敗,
就發送報警,
可以結合一些監控框架,
如Metrics等,
設置短時間內,
告警到達一定閥值後,
給你發郵件,簡訊等.
當然,
單純的檢測403錯誤並不能解決所有情況.
有一些網站比較奇葩,
反爬蟲後返回的頁面仍然是200的(如去哪兒),
這時候往往爬蟲任務會進入解析階段,
解析失敗是必然的.
應對這些辦法,
也只能在解析失敗的時候,
發送報警,
當告警短時間到達一定閥值,
再觸發通知事件.
當然這個解決部分並不完美,
因為有時候,
因為網站結構改變,
而導致解析失敗,
同樣回觸發告警.
而你並不能很簡單地區分,
告警是由於哪個原因引起的.

㈤ 數據爬取技術有哪些做的比較好的

知道一個數據爬取技術，瑞雪採集雲，還是有一些特點的：

瑞雪採集雲是一個PaaS在線開發平台，與圖形配置化爬蟲客戶端工具相比，瑞雪採集雲提供的是通用採集能力，能夠滿足企業客戶數據採集業務的長期需求。

主要特點如下：
（一） 一站式通用能力集成，指數級提高開發效率。平台封裝了豐富的通用功能，開發者不需要關心 Ajax和Cookie等底層細節，只需要利用平台封裝好API，把主要精力放在業務上，工作效率提供10倍。
（二） 開發自由度高，支持復雜網站的採集。支持Java/Python編寫應用插件，藉助高級語言的高自由度能夠處理復雜網站的採集。平台提供業內首個基於Web瀏覽器的在線開發環境，無需安裝任何客戶端，提高應用源代碼在客戶內部的共享。
（三） 分布式任務調度機制，並發採集效率高。把採集工作分解為多個採集工序，一個大任務被拆解為在不同工序上執行的大量小任務，然後被分配到海量爬蟲機集群上被分布式並發執行，確保系統達到最高的採集效率。
（四） 強大的任務管理機制，確保數據完整性。平台擁有強大的任務狀態機制，支持任務重發、支持利用結束碼管理任務的不同結束狀態，根據具體情況選擇不同的後續處理，保證不遺漏目標數據，確保最終目標數據的完整性。
（五） 學習時間短，能夠支撐業務的快速發展。平台提供豐富的在線幫助文檔，開發者能夠在1小時內快速掌握平台的基本使用，當有新的數據採集需求時，新的開發者能夠立即學習開發採集爬蟲程序，快速對應相關業務的發展。
（六） 支持私有化部署，保證數據安全。支持平台所有模塊的私有化部署，讓客戶擁有瑞雪採集雲平台的全部能力，保證客戶開發的應用插件代碼和目標數據的絕對安全。

㈥ 有哪些好用的爬蟲軟體

推薦如下：

1、神箭手雲鍵陵爬蟲。

神箭手雲是一個大數據應用開發平台，為開發者提供成套的數據採集、數據分析和機器學習開發工具，為企業提供專業化的數據抓取、數據實時監控和數據分析服務。功能強大，涉及雲爬蟲、API、機器學習、數據清洗、數據出售、數據訂制和私有化部署等。

簡介：

網路爬蟲（又稱為網頁蜘蛛，網路機器人，在FOAF社區中間，更經常的稱為網頁追逐者），是一種高知按照一定的規則，自動地抓取萬維網信息的程序或者腳本。另外一些不常使用的名字還有螞蟻、自動索引、模擬程序或者蠕蟲。

㈦ 有哪些網站用爬蟲爬取能得到很有價值的數據

關於爬蟲，練手的話建議向需要登錄的、比較封閉的社區爬取數據雹盯指，則衡或者向一個超大量數據源分布式抓取，要考慮伺服器壓力和反爬蟲機制，分布式爬蟲機器間的通信以及失敗條目的重新抓取但不重復抓取已抓取數據等，可以使用一些成熟的Message Queue或者純手擼。到最後希望你能夠達到的水平是，只要瀏覽器可以瀏覽的內容，源配都能夠用爬蟲抓取（在時間開銷／內存開銷／存儲開銷都吃的消的情況下）。如果想了解投資數據，IT桔子絕對是一個很好的選擇。和朋友一起合作了這個小項目，利用python爬取IT桔子上的投資公司數據，包含第一層的投資公司名稱，投資公司介紹，投資次數，投資領域，及第二層的投資組合等欄位。

㈧ python 爬蟲 爬什麼數據

主要就是爬一些網頁內容。
比如 網路、google，就是靠著上萬個爬蟲伺服器去爬取所有靜態網頁內容，然後緩存在自己的伺服器，以便網民搜索。
再比如，A網站有很多比較不錯的圖片、文章等信息，B網站自己沒能力出原創，就通過爬蟲去A把圖片、文章爬下來後，直接發布在B網站。
等等等等......

㈨ 除了爬蟲，還有其他好工具推薦嗎可以採集攜程網上數據的有哪些

爬攜讓攜程網的上的消銀數據，我嘗試編程爬過，最後沒搞定。後來用小幫軟坦橋伏件機器人的軟體來爬，我用了一下，雖然需要配置，但比非常簡單，動動滑鼠就可以，我只用了5分鍾就配好了，其他就是軟體自動在那裡一直爬數據了，你可以試試！

㈩ python可以爬取什麼數據

一、爬取我們所需要的一線鏈接
channel_extract.py
這里的一線鏈接也就是我們所說的大類鏈接：
from bs4 import BeautifulSoupimport requests

start_url = 'http://lz.ganji.com/wu/'host_url = 'http://lz.ganji.com/'def get_channel_urls(url):
wb_data = requests.get(url)
soup = BeautifulSoup(wb_data.text, 'lxml')
links = soup.select('.fenlei > dt > a') #print(links)
for link in links:
page_url = host_url + link.get('href')
print(page_url)#get_channel_urls(start_url)channel_urls = '''
http://lz.ganji.com/jiaju/
http://lz.ganji.com/rironghuo/
http://lz.ganji.com/shouji/
http://lz.ganji.com/bangong/
http://lz.ganji.com/nongyongpin/
http://lz.ganji.com/jiadian/
http://lz.ganji.com/ershoubijibendiannao/
http://lz.ganji.com/ruanjiantushu/
http://lz.ganji.com/yingyouyunfu/尺毀滲
http://lz.ganji.com/diannao/
http://lz.ganji.com/xianlipin/
http://lz.ganji.com/fushixiaobaxuemao/
http://lz.ganji.com/meironghuazhuang/
http://lz.ganji.com/shuma/
http://lz.ganji.com/laonianyongpin/
http://lz.ganji.com/xuniwupin/
'''

那麼拿我爬取的58同城為例就是余舉爬取了二手市場所有品類的鏈接，也就是我說的大類鏈接；
找到這些鏈接的共同特徵，用函數將其輸出，並作為多行文本儲存起來。
二、獲取陵脊我們所需要的詳情頁面的鏈接和詳情信息
page_parsing.py
1、說說我們的資料庫：
先看代碼：
#引入庫文件from bs4 import BeautifulSoupimport requestsimport pymongo #python操作MongoDB的庫import reimport time#鏈接和建立資料庫client = pymongo.MongoClient('localhost', 27017)
ceshi = client['ceshi'] #建ceshi資料庫ganji_url_list = ceshi['ganji_url_list'] #建立表文件ganji_url_info = ceshi['ganji_url_info']123456789101112

2、判斷頁面結構是否和我們想要的頁面結構相匹配，比如有時候會有404頁面；
3、從頁面中提取我們想要的鏈接，也就是每個詳情頁面的鏈接；
這里我們要說的是一個方法就是:
item_link = link.get('href').split('?')[0]12

這里的這個link什麼類型的，這個get方法又是什麼鬼？
後來我發現了這個類型是
<class 'bs4.element.Tab>1

如果我們想要單獨獲取某個屬性，可以這樣，例如我們獲取它的 class 叫什麼
print soup.p['class']
#['title']12

還可以這樣，利用get方法，傳入屬性的名稱，二者是等價的
print soup.p.get('class')#['title']12

下面我來貼上代碼：
#爬取所有商品的詳情頁面鏈接：def get_type_links(channel, num):
list_view = '{0}o{1}/'.format(channel, str(num)) #print(list_view)
wb_data = requests.get(list_view)
soup = BeautifulSoup(wb_data.text, 'lxml')
linkOn = soup.select('.pageBox') #判斷是否為我們所需頁面的標志；
#如果爬下來的select鏈接為這樣：div.pageBox > ul > li:nth-child(1) > a > span 這里的:nth-child(1)要刪掉
#print(linkOn)
if linkOn:
link = soup.select('.zz > .zz-til > a')
link_2 = soup.select('.js-item > a')
link = link + link_2 #print(len(link))
for linkc in link:
linkc = linkc.get('href')
ganji_url_list.insert_one({'url': linkc})
print(linkc) else:

4、爬取詳情頁中我們所需要的信息
我來貼一段代碼：
#爬取趕集網詳情頁鏈接：def get_url_info_ganji(url):
time.sleep(1)
wb_data = requests.get(url)
soup = BeautifulSoup(wb_data.text, 'lxml') try:
title = soup.select('head > title')[0].text
timec = soup.select('.pr-5')[0].text.strip()
type = soup.select('.det-infor > li > span > a')[0].text
price = soup.select('.det-infor > li > i')[0].text
place = soup.select('.det-infor > li > a')[1:]
placeb = [] for placec in place:
placeb.append(placec.text)
tag = soup.select('.second-dt-bewrite > ul > li')[0].text
tag = ''.join(tag.split()) #print(time.split())
data = { 'url' : url, 'title' : title, 'time' : timec.split(), 'type' : type, 'price' : price, 'place' : placeb, 'new' : tag
}
ganji_url_info.insert_one(data) #向資料庫中插入一條數據；
print(data) except IndexError: 21222324252627282930

四、我們的主函數怎麼寫？
main.py
看代碼：
#先從別的文件中引入函數和數據：from multiprocessing import Poolfrom page_parsing import get_type_links,get_url_info_ganji,ganji_url_listfrom channel_extract import channel_urls#爬取所有鏈接的函數：def get_all_links_from(channel):
for i in range(1,100):
get_type_links(channel,i)#後執行這個函數用來爬取所有詳情頁的文件：if __name__ == '__main__':# pool = Pool()# # pool = Pool()# pool.map(get_url_info_ganji, [url['url'] for url in ganji_url_list.find()])# pool.close()# pool.join()#先執行下面的這個函數，用來爬取所有的鏈接：if __name__ == '__main__':
pool = Pool()
pool = Pool()
pool.map(get_all_links_from,channel_urls.split())
pool.close()
pool.join()

五、計數程序
count.py
用來顯示爬取數據的數目；
import timefrom page_parsing import ganji_url_list,ganji_url_infowhile True: # print(ganji_url_list.find().count())
# time.sleep(5)
print(ganji_url_info.find().count())
time.sleep(5)