linkbase中存有幾十萬條url,數據如下所示:
{ "_id" : ObjectId("5a322cad6c85e0369ab54161"), "url" : "https://www.xxxx.com/", "status_code" : 0, "spider_name" : "test_spider", "crawl_time" : "2017-12-14 15:47:57" }
{ "_id" : ObjectId("5a322c9f6c85e03699b54227"), "url" : "https://www.xxxxaa.com/", "status_code" : 0, "spider_name" : "test_spider", "crawl_time" : "2017-12-14 15:47:43" }
{ "_id" : ObjectId("5a2f082c6c85e0c65bc553c9"), "url" : "https://aabb.com", "status_code" : 403, "spider_name" : "test_spider", "crawl_time" : "2017-12-12 06:35:24" }
{ "_id" : ObjectId("5a2f082b6c85e0c65bc553c8"), "url" : "https://cccc.com", "status_code" : 403, "spider_name" : "test_spider", "crawl_time" : "2017-12-12 06:35:23" }
我用數據庫查詢工具,db.linkbase.find({"spider_name":"test_spider"})大約耗時122秒
數據庫有相關索引
[
{
"v" : 1,
"key" : {
"_id" : 1
},
"name" : "_id_",
"ns" : "linkbase.linkbase"
},
{
"v" : 1,
"key" : {
"spider_name" : 1
},
"name" : "spider_name_1",
"ns" : "linkbase.linkbase"
}
]
程序調用一個函數,max_requests每次取10個:
def get_mongodb_linkbase(self,max_requests):
linkbase = []
for i in range(max_requests):
result = self.db_linkbase_collection.find_one_and_delete({'spider_name':'test_spider'})
if result == None:
continue
else:
linkbase.append(result)
return linkbase
可是爬蟲運行的時候,感覺速度并不快,爬蟲代碼采用了協程gevent,每個協程開50個
def handle_linkbase():
while True:
linkbase_info = mongo_insert.get_mongodb_linkbase(10)
if len(linkbase_info) == 0:
time.sleep(random.choice(range(60)))
else:
for url in linkbase_info:
test.header['User-Agent'] = random.choice(setting.user_agent)
test.save_url_to_task(url['url'],header=test.header)
def gevent_fun_linkbase():
jobs = [gevent.spawn(handle_linkbase) for i in range(50)]
gevent.joinall(jobs)
m2 = multiprocessing.Process(target=gevent_fun_linkbase)
m2.start()
m2.join()
并將協程放入多進程。也就是三個進程分別運行三個協程,每個協程里開50個程序。但是感覺速度并不快,甚至有卡頓現象。就是在tail -f log的時候,發(fā)現有幾秒中,無信息輸出,并且運行速度慢。
目前不太清楚是不是mongodb查詢時候造成的卡頓。
感覺也不是代理造成的卡頓,requests我把重試關了,timeout為1.
請各位大牛幫忙分析。
我用數據庫查詢工具,db.linkbase.find({"spider_name":"test_spider"})大約耗時122秒
是122秒還是122ms?122秒的話相當慢了。
如果不確定是不是MongoDB方的問題,可以先用profiler看一下執(zhí)行的查詢到底花了多少時間。從你上面的信息來看,我比較傾向于不是數據庫這一端慢。
北大青鳥APTECH成立于1999年。依托北京大學優(yōu)質雄厚的教育資源和背景,秉承“教育改變生活”的發(fā)展理念,致力于培養(yǎng)中國IT技能型緊缺人才,是大數據專業(yè)的國家
北大青鳥中博軟件學院創(chuàng)立于2003年,作為華東區(qū)著名互聯網學院和江蘇省首批服務外包人才培訓基地,中博成功培育了近30000名軟件工程師走向高薪崗位,合作企業(yè)超4
中公教育集團創(chuàng)建于1999年,經過二十年潛心發(fā)展,已由一家北大畢業(yè)生自主創(chuàng)業(yè)的信息技術與教育服務機構,發(fā)展為教育服務業(yè)的綜合性企業(yè)集團,成為集合面授教學培訓、網
達內教育集團成立于2002年,是一家由留學海歸創(chuàng)辦的高端職業(yè)教育培訓機構,是中國一站式人才培養(yǎng)平臺、一站式人才輸送平臺。2014年4月3日在美國成功上市,融資1
浪潮集團項目經理。精通Java與.NET 技術, 熟練的跨平臺面向對象開發(fā)經驗,技術功底深厚。 授課風格 授課風格清新自然、條理清晰、主次分明、重點難點突出、引人入勝。
曾工作于聯想擔任系統(tǒng)開發(fā)工程師,曾在博彥科技股份有限公司擔任項目經理從事移動互聯網管理及研發(fā)工作,曾創(chuàng)辦藍懿科技有限責任公司從事總經理職務負責iOS教學及管理工作。
精通HTML5和CSS3;Javascript及主流js庫,具有快速界面開發(fā)的能力,對瀏覽器兼容性、前端性能優(yōu)化等有深入理解。精通網頁制作和網頁游戲開發(fā)。
具有10 年的Java 企業(yè)應用開發(fā)經驗。曾經歷任德國Software AG 技術顧問,美國Dachieve 系統(tǒng)架構師,美國AngelEngineers Inc. 系統(tǒng)架構師。