Python使用bs4获取58同城城市分类的方法
本文实例讲述了Python使用bs4获取58同城城市分类的方法。分享给大家供大家参考。具体如下：
#-*-coding:utf-8-*-
#!/usr/bin/python
importurllib
importos,datetime,sys
frombs4importBeautifulSoup
reload(sys)
sys.setdefaultencoding("utf-8")
__BASEURL__="http://bj.58.com/"
__INITURL__="http://bj.58.com/hezu/"
soup=BeautifulSoup(urllib.urlopen(__INITURL__))
lv1Elements=soup.html.body.section.find('div','relative').find('dl','secitem')('a',href=True)
f=open('data.txt','w')
forelementinlv1Elements[1:]:
f.write((element.get_text()+'\r\n'))
printelement.get_text()
url=__BASEURL__+element.get('href')
printurl
soup=BeautifulSoup(urllib.urlopen(url))
lv2Elements=soup.html.body.section.find('div','relative').find('dl','secitem').find('div','subarea').find_all('a')
texts=[t.get_text()fortinlv2Elements]
f.write(''.join(texts)+'\r\n\r\n')
f.close()
希望本文所述对大家的Python程序设计有所帮助。