一般来说，使用线程有两种模式, 一种是创建线程要执行的函数, 把这个函数传递进thread对象里，让它来执行. 另一种是直接从thread继承，创建一个新的class，把线程执行的代码放到这个新的class里。
实现多线程网页爬虫，采用了多线程和锁机制，实现了广度优先算法的网页爬虫。
先给大家简单介绍下我的实现思路：
对于一个网络爬虫，如果要按广度遍历的方式下载，它是这样的：
1.从给定的入口网址把第一个网页下载下来
2.从第一个网页中提取出所有新的网页地址，放入下载列表中
3.按下载列表中的地址，下载所有新的网页
4.从所有新的网页中找出没有下载过的网页地址，更新下载列表
5.重复3、4两步，直到更新后的下载列表为空表时停止
python代码如下：
#!/usr/bin/env python#coding=utf-8import threadingimport urllibimport reimport timeg_mutex=threading.condition()g_pages=[] #从中解析所有url链接g_queueurl=[] #等待爬取的url链接列表g_existurl=[] #已经爬取过的url链接列表g_failedurl=[] #下载失败的url链接列表g_totalcount=0 #下载过的页面数class crawler: def __init__(self,crawlername,url,threadnum): self.crawlername=crawlername self.url=url self.threadnum=threadnum self.threadpool=[] self.logfile=file(log.txt,'w') def craw(self): global g_queueurl g_queueurl.append(url) depth=0 print self.crawlername+ 启动... while(len(g_queueurl)!=0): depth+=1 print 'searching depth ',depth,'...\n\n' self.logfile.write(url:+g_queueurl[0]+........) self.downloadall() self.updatequeueurl() content='\n>>>depth '+str(depth)+':\n' self.logfile.write(content) i=0 while i'+g_queueurl[i]+'\n' self.logfile.write(content) i+=1 def downloadall(self): global g_queueurl global g_totalcount i=0 while i 以上代码就是给大家分享的基python实现多线程网页爬虫，希望大家喜欢。