国庆去哪里人最多?用 Python 抓取的热力图告诉你!Python
tm
国庆去哪里人最多?用 Python 抓取的热力图告诉你!Python
python
国庆去哪里人最多?用 Python 抓取的热力图告诉你!Python
HTML
国庆去哪里人最多?用 Python 抓取的热力图告诉你!Python
Hadoop
国庆去哪里人最多?用 Python 抓取的热力图告诉你!Python
服务器

国庆倒计时1天,我们即将迎来8天的小长假,相信很多小伙伴们已经提前规划国庆去哪儿?你是选择去人最少的单位加班呢?还是选择人山人海的景点观光?


如果去人最少的单位加班,一定要记得告知老板,以望升职加薪走上人生巅峰;


如果选择人山人海的景点,一定要提前查看攻略,比如下文中使用 Python 技术抓取热门景点的热力图。


金秋九月,丹桂飘香,在这秋高气爽,阳光灿烂的收获季节里,我们送走了一个个暑假余额耗尽哭着走向校园的孩子们,又即将迎来一年一度伟大祖国母亲的生日趴体(无心上班,迫不及待想为祖国母亲庆生)。



国庆去哪里人最多?用 Python 抓取的热力图告诉你!Python

那么问题来了,去哪儿玩呢?


百度输了个“国庆”,出来的第一条居然是“国庆去哪里旅游人少”。



国庆去哪里人最多?用 Python 抓取的热力图告诉你!Python

于是我想到可否通过旅游网站的景点销量来判断近期各景点流量情况呢?本文按去哪儿网景点页面,得到景点的信息。


1.百度的地图API和echarts

本次主要抓取的内容是数据,因此我决定用图表来输出抓取的数据,也就意味着我要用爬取的景点销量以及景点的具体位置来生成一些可视化数据。


在这里使用的是百度的地图API和echarts,前者是专门提供地图API的工具,后者是数据处理居家旅行的好伙伴。


那么API是什么?API是应用程序的编程接口,就好像插头与插座一样,我们的程序需要电,插座中提供了电,我们只需要在程序中写一个与插座匹配的插头接口,就可以使用电来做我们想做的事情,而不需要知道电是如何产生的。


国庆去哪里人最多?用 Python 抓取的热力图告诉你!Python

引入数据后的百度热力图


而具体流程如下,好比出书的过程,想要将完结的小说出书,首先要通过出版社的出版服务,提供正文内容和封面设计图,将保存好的 word 文本和封面图发给出版社,由此得到一本书。在此过程中,并不需要了解出版社印刷、装订的过程。


国庆去哪里人最多?用 Python 抓取的热力图告诉你!Python

通过API对接的开发者与服务商


2.确定输出文件

百度地图提供了很多API使用示例,有HTML基础,有JS基础就可以尝试改函数了。仔细观察源代码,可以知道热力图的生成主要的数据都存放在points这个变量中。



国庆去哪里人最多?用 Python 抓取的热力图告诉你!Python

这种[{x:x,x:x},{x:x,x:x}]格式的数据,是一种json格式的数据,由于具有自我描述性,所以比较通俗易懂,大概可以知道这里的三个值,前俩个是经纬度,最后一个应该是权重。

也就是说,如果我希望将景点的热门程度生成为热力图,我需要得到景点的经纬度,以及它的权重,景点的销量可以作为权重,并且这个数据应该是json格式的呈现方式。echarts也是一样的。


3.爬取数据

其实这次的爬虫部分是比较简单的。


分析网址(去哪儿景点)→爬取分页中信息(景点经纬度、销量)→转为json文件。


分析去哪儿景点页的网址可得出结构:<http://piao.qunar.com/ticket/list.htm?keyword=搜索地点&region=&from=mpl_search_suggest&page=页数>


这次没有用正则来匹配内容,而使用了xpath匹配。


def getList():

place = raw_input('请输入想搜索的区域、类型(如北京、热门景点等):')

url = 'http://piao.qunar.com/ticket/list.htm?keyword='+ str(place)


def getList():

place = raw_input('请输入想搜索的区域、类型(如北京、热门景点等):')

url = 'http://piao.qunar.com/ticket/list.htm?keyword='+ str(place) +'&region=&from=mpl_search_suggest&page={}'

i = 1

sightlist = []

while i:

page = getPage(url.format(i))

selector = etree.HTML(page)

print '正在爬取第' + str(i) + '页景点信息'

i+=1

informations = selector.xpath('//div[@class="result_list"]/div')

for inf in informations: #获取必要信息

sight_name = inf.xpath('./div/div/h3/a/text()')[0] sight_level = inf.xpath('.//span[@class="level"]/text()')

if len(sight_level):

sight_level = sight_level[0].replace('景区','')

else:

sight_level = 0

sight_area = inf.xpath('.//span[@class="area"]/a/text()')[0] sight_hot = inf.xpath('.//span[@class="product_star_level"]//span/text()')[0].replace('热度 ','') sight_add = inf.xpath('.//p[@class="address color999"]/span/text()')[0]

sight_add = re.sub('地址:|(.*?)|\(.*?\)|,.*?$|\/.*?$','',str(sight_add))

sight_slogen = inf.xpath('.//div[@class="intro color999"]/text()')[0] sight_price = inf.xpath('.//span[@class="sight_item_price"]/em/text()')

if len(sight_price):

sight_price = sight_price[0]

else:

i = 0

break

sight_soldnum = inf.xpath('.//span[@class="hot_num"]/text()')[0] sight_url = inf.xpath('.//h3/a[@class="name"]/@href')[0] sightlist.append([sight_name,sight_level,sight_area,float(sight_price),int(sight_soldnum),float(sight_hot),sight_add.replace('地址:',''),sight_slogen,sight_url])

time.sleep(3)

return sightlist,place


这里把每个景点的所有信息都抓取下来。

使用了while循环,for循环的break的方式是发现无销量时给i值赋零,这样while循环也会同时结束。

地址的匹配使用re.sub()函数去除了n多复杂信息,这点后面解释。


4.输出本地文本

为了防止代码运行错误,为了维护代码运行的和平,将输出的信息列表存入到Excel文件中了,方便日后查阅,很简单的代码,需要了解pandas的用法。


def listToExcel(list,name):

df = pd.DataFrame(list,columns=['景点名称','级别','所在区域','起步价','销售量','热度','地址','标语','详情网址'])

df.to_excel(name + '景点信息.xlsx')


5.百度经纬度API

百度经纬度API网址:http://api.map.baidu.com/geocoder/v2/?address=地址&output=json&ak=百度密钥,修改网址里的“地址”和“百度密钥”,在浏览器打开,就可以看到经纬度的json信息。


#上海市东方明珠的经纬度信息

{"status":0,"result":{"location":{"lng":121.5064701060957,"lat":31.245341811634675},"precise":1,"confidence":70,"level":"UNKNOWN"}}


这样我就可以根据爬到的景点地址,查到对应的经纬度!python获取经纬度json数据的代码如下。


def getBaiduGeo(sightlist,name):

ak = '密钥'

headers = {

'User-Agent' :'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_12_6) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/60.0.3112.113 Safari/537.36'

}

address = 地址

url = 'http://api.map.baidu.com/geocoder/v2/?address=' + address + '&output=json&ak=' + ak

json_data = requests.get(url = url).json()

json_geo = json_data['result']['location']

观察获取的json文件,location中的数据和百度api所需要的json格式基本是一样,还需要将景点销量加入到json文件中,这里可以了解一下json的浅拷贝和深拷贝知识,最后将整理好的json文件输出到本地文件中。


def getBaiduGeo(sightlist,name):

ak = '密钥'

headers = {

'User-Agent' :'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_12_6) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/60.0.3112.113 Safari/537.36'

}

list = sightlist

bjsonlist = [] ejsonlist1 = [] ejsonlist2 = []

num = 1

for l in list:

try:

try:

try:

address = l[6]

url = 'http://api.map.baidu.com/geocoder/v2/?address=' + address + '&output=json&ak=' + ak

json_data = requests.get(url = url).json()

json_geo = json_data['result']['location']

except KeyError,e:

address = l[0]

url = 'http://api.map.baidu.com/geocoder/v2/?address=' + address + '&output=json&ak=' + ak

json_data = requests.get(url = url).json()

json_geo = json_data['result']['location']

except KeyError,e:

address = l[2]

url = 'http://api.map.baidu.com/geocoder/v2/?address=' + address + '&output=json&ak=' + ak

json_data = requests.get(url = url).json()

json_geo = json_data['result']['location']

except KeyError,e:

continue

json_geo['count'] = l[4]/100

bjsonlist.append(json_geo)

ejson1 = {l[0] : [json_geo['lng'],json_geo['lat']]}

ejsonlist1 = dict(ejsonlist1,**ejson1)

ejson2 = {'name' : l[0],'value' : l[4]/100}

ejsonlist2.append(ejson2)

print '正在生成第' + str(num) + '个景点的经纬度'

num +=1

bjsonlist =json.dumps(bjsonlist)

ejsonlist1 = json.dumps(ejsonlist1,ensure_ascii=False)

ejsonlist2 = json.dumps(ejsonlist2,ensure_ascii=False)

with open('./points.json',"w") as f:

f.write(bjsonlist)

with open('./geoCoordMap.json',"w") as f:

f.write(ejsonlist1)

with open('./data.json',"w") as f:

f.write(ejsonlist2)


在设置获取经纬度的地址时,为了匹配到更准确的经纬度,我选择了匹配景点地址,然而,景点地址里有各种神奇的地址,因此有了第三部门中去除复杂的信息。


然而,就算去掉了复杂信息,还有一些匹配不到的景点地址,于是我使用了嵌套try,如果景点地址匹配不到;就匹配景点名称,如果景点名称匹配不到;就匹配景点所在区域,如果依然匹配不到,那就跳过。


这里生成的三个json文件,一个是给百度地图api引入用的,另俩个是给echarts引入用的。


6.网页读取json文件

将第二章中所述的百度地图api示例中的源代码复制到解释器中,添加密钥,保存为html文件,打开就可以看到和官网上一样的显示效果。echarts需要在实例页面,点击页面右上角的EN切换到英文版,然后点击download demo下载完整源代码。


根据html导入json文件修改网页源码,导入json文件。


#百度地图api示例代码中各位置修改部分

<head>

<script src="http://libs.baidu.com/jquery/2.0.0/jquery.js"></script>

</head>

<script type="text/javascript">

$.getJSON("points.json", function(data){

var points = data;

script中原有函数;

});

</script>


这里使用了jQuery之后,即使网页调试成功了,在本地打开也无法显示网页了,在chrome中右键检查,发现报错提示是需要在服务器上显示。


在本地创建一个服务器,在终端进入到html文件所在文件夹,输入python -m SimpleHTTPServer,再在浏览器中打开http://127.0.0.1:8000/,记得要将html文件名设置成index.html哦~



国庆去哪里人最多?用 Python 抓取的热力图告诉你!Python

7.总结

因为注册但没有认证开发者账号,所以每天只能获取6K个经纬度API,所以我选择了热门景点中前400页(每页15个)的景点,结果可想而知。为了调试因为数据增多出现的额外bug,最终的获取的景点数据大概在4.5千条左右(爬取时间为2017年09月10日,爬取关键词:热门景点,仅代表当时销量)。



国庆去哪里人最多?用 Python 抓取的热力图告诉你!Python

热门景点热力图



国庆去哪里人最多?用 Python 抓取的热力图告诉你!Python

热门景点示意图


这些地图上很火爆的区域,我想在国庆大概是这样的



国庆去哪里人最多?用 Python 抓取的热力图告诉你!Python

这样的



国庆去哪里人最多?用 Python 抓取的热力图告诉你!Python

还有这样的


国庆去哪里人最多?用 Python 抓取的热力图告诉你!Python

将地图上热门景点的销量Top20提取出来,大多数都是耳熟能详的地点,帝都的故宫排在了第一位,四川则占据了Top5中的三位,而排在Top20中四川省就占了6位,如果不是因为地震,我想还会有更多的火爆的景点进入排行榜的。这样看来如果你这次国庆打算去四川的话,可以脑补到的场景就是:人人人人人人人人人……


国庆去哪里人最多?用 Python 抓取的热力图告诉你!Python

热门景点销量top20


于是我又做了一个各城市包含热门景点数目的排行,没想到在4千多个热门景点中,数目最多的竟是浙江,是第二个城市的1.5倍,而北京作为首都位居第二。



国庆去哪里人最多?用 Python 抓取的热力图告诉你!Python

主要城市热门景点数


这些城市有那么多热门景点,都是些什么级别的景点呢?由下图看来,各城市的各级别景点基本与城市总热门景点呈正相关,而且主要由4A景区贡献而来。



国庆去哪里人最多?用 Python 抓取的热力图告诉你!Python

主要城市热门景点级别


既然去哪些地方人多,去哪里景多都已经知道了,那再看看去哪些地方烧得钱最多吧?下图是由各城市景点销售起步价的较大值-最小值扇形组成的圆,其中湖北以单景点销售起步价600占据首位,但也可以看到,湖北的景点销售均价并不高(在红色扇形中的藏蓝色线条)。而如果国庆去香港玩,请做好钱包减肥的心理和生理准备。


国庆去哪里人最多?用 Python 抓取的热力图告诉你!Python

各省旅游景点销售起步价


欢迎加入本站公开兴趣群

软件开发技术群

兴趣范围包括:Java,C/C++,Pythonphp,Ruby,shell等各种语言开发经验交流,各种框架使用,外包项目机会,学习、培训、跳槽等交流

QQ群:204132433


Hadoop源代码研究群

兴趣范围包括:Hadoop源代码解读,改进,优化,分布式系统场景定制,与Hadoop有关的各种开源项目,总之就是玩转Hadoop

QQ群:204050420

tags: #160,json,景点,sight,url,amp,address,xpath,ak,data,经纬度,API,http,inf,热门
分页:12
转载请注明
本文标题:国庆去哪里人最多?用 Python 抓取的热力图告诉你!Python
本站链接:http://www.codesec.net/view/565473.html
分享请点击:


1.凡CodeSecTeam转载的文章,均出自其它媒体或其他官网介绍,目的在于传递更多的信息,并不代表本站赞同其观点和其真实性负责;
2.转载的文章仅代表原创作者观点,与本站无关。其原创性以及文中陈述文字和内容未经本站证实,本站对该文以及其中全部或者部分内容、文字的真实性、完整性、及时性,不作出任何保证或承若;
3.如本站转载稿涉及版权等问题,请作者及时联系本站,我们会及时处理。
登录后可拥有收藏文章、关注作者等权限...
技术大类 技术大类 | 大数据技术 | 评论(0) | 阅读(192)