常见的收集数据的方法(收集数据的方法有哪些)
admin
2023-09-18 14:08:17
0

在大数据时代,除了企业、公司和个人,互联网也是一个非常重要的数据来源。随着信息化社会的快速发展,互联网中可以获取的数据也越来越多,并且多数网站所提供的数据并非一两个页面所能容纳的,如股票行情数据,由于上市交易的股票数量众多,所以网站提供的数据通常都会有几十个网页,甚至更多。

虽然通过【数据】选项卡的【从网站】功能可以获取单个网页中的数据,但是这样的操作显然无法胜任收集大量网页数据的任务。批量收集网站数据,又被称为网络数据抓取,有时也被简称为“网抓”。用于网抓的工具或软件通常被称为网络爬虫(Web Crawler)。

以某网站的“个股市盈率”网页为例,如图 2-139 所示,每个页面中有 50 行数据,共有 64 个网页。让我们使用Power Query的方式实现抓取前 5 个网页的数据。

图 2-139 个股市盈率网页

步骤 1

单击【数据】选项卡的【自网站】按钮,在弹出的【从 Web】对话框的【URL】文本框中输入这一地址内容再进行下一步操作:“http://data.10jqka.com.cn/market/ggsyl/fifield/syl/order/desc/page/1”单击【确定】按钮关闭【从 Web】对话框,如图 2-140 所示。

图 2-140 在【从 Web】对话框中输入 URL82

步骤 2

Excel 查询数据之后,将弹出【导航器】对话框,在对话框左侧单击【Table 0】,在对话框右侧的【表视图】中将显示相应的数据内容,单击【转换数据】按钮,如图 2-141 所示。

图 2-141 在【导航器】对话框中选择表格

步骤 3

在弹出的【Table 0 – Power Query 编辑器】窗口中,单击【开始】选项卡的【高级编辑器】按钮,在弹出的【高级编辑器】对话框中修改公式(区分字母大小写),单击【完成】按钮关闭对话框,如图 2-142 所示。

图 2-142 修改 Power Query 公式

步骤 4

在【查询设置】窗格的【名称】文本框输入“GetWebPage”修改查询名称,单击【开始】选项卡的【关闭并上载】按钮关闭编辑器窗口,如图 2-143 所示。

图 2-143 修改查询名称并上载

步骤 5

在 Excel 的【查询 & 连接】窗格中查询名称“GetWebPage”之前显示“fx”标识,说明这是一个自定义函数。依次单击【数据】选项卡→【获取数据】下拉按钮→【自其他源】→【空白查询】命令,如图 2-144 所示。

图 2-144 新建空白查询

步骤 6

在弹出的【查询 1 – Power Query 编辑器】窗口的公式栏中输入“={1..5}”,按< Enter > 键完成输入,在编辑器将新建一个列表,包含 1 到 5 的数字。

步骤 7

依次单击【转换】选项卡→【到表】按钮,在弹出的【到表】对话框中保持默认设置,单击【确定】按钮关闭对话框,如图 2-145 所示。

图 2-145 列表数据转换

步骤 8

在【查询 1 – Power Query 编辑器】窗口中单击【添加列】选项卡的【调用自定义函数】按钮,在弹出的【调用自定义函数】对话框中调整设置,在【新列名】文本框中输入“Web”作为名称,在【功能查询】组合框中选中“GetWebPage”,在【PageIndex】标签之下右侧组合框中选中“Column1”,单击【确定】按钮关闭对话框,如图 2-146 所示。

图2-146 设置调用自定义函数

步骤 9

此时将弹出黄色的数据隐私提示栏,单击【继续】按钮,在弹出的【隐私级别】对话框中,选中【忽略此文件的隐私级别检查。忽略隐私级别可能会向未经授权的用户公开敏感数据或机密数据。】复选框,单击【保存】按钮关闭对话框,如图 2-147 所示。

图 2-147 忽略隐私级别检查

步骤 10

单击“Web”列标题右侧的展开按钮,在弹出的对话框中取消选中【使用原始列名作为前缀】复选框,单击【确定】按钮展开“Web”列,如图 2-148 所示。

图 2-148 展开“Web”列

步骤 11

在【查询 1 – Power Query 编辑器】窗口中依次单击【开始】选项卡→【关闭并上载】下拉按钮→【关闭并上载至 …】命令,在弹出的【导入数据】对话框中选中【表】单选按钮,保持默认选中的【新工作表】单选按钮,单击【确定】按钮关闭对话框,如图 2-149 所示。

图2-149 关闭并上载至工作表

批量采集的网站数据将上载到Excel新建工作表中,共有250行数据(5×50行/页),如图2-150所示。

如果【查询&连接】任务窗格中显示“已加载250行。N个错误”,错误的原因可能是部分指标数据未从网站上成功获取(比如该指标在网站上为空)。

图 2-150 上载到工作表中的数据

还想要学习其他数据处理与分析的技巧吗?快来看看应用大全吧!

相关内容

热门资讯

美国取消对叙利亚“沙姆解放组织... 当地时间7月7日,央视记者获悉,美国特朗普政府已撤销对叙利亚“沙姆解放组织”(HTS)的外国恐怖组织...
特朗普宣布南非等五国输美产品关... 当地时间7月7日,美国总统特朗普表示,美国将自2025年8月1日起对所有哈萨克斯坦和马来西亚的输美产...
东亚杯首战国足0比3不敌韩国 ... 北京时间7日晚间7点,2025东亚杯首轮,韩国队在龙仁主场迎来和中国队的比赛,上半场韩国队20分钟内...
部分“网红医生”假借科普名义敛... 国家卫生健康委新闻发言人、宣传司副司长胡强强:当前,医疗科普是短视频平台的热门话题,越来越多的医生通...
街头实测50℃ 天气预报却显示... 今年以来最强高温过程正在持续影响我国高温炙烤下不少网友认为气温远不止38℃、39℃因为在户外感觉都快...
安徽淮北福彩通报销售网点与彩民... 安徽淮北市福利彩票发行中心7月7日发布情况通报:7月6日晚,淮北市大华步行街一福利彩票销售网点与一彩...
男子酒后启用“智驾”被控危险驾... 7月7日,浙江嘉兴秀洲区传媒中心发布一起醉酒驾驶案例,经秀洲区检察院起诉,秀洲区法院以危险驾驶罪,判...
韩媒披露尹锡悦涉嫌罪名细节:指... 韩国媒体7日披露韩前总统尹锡悦所受罪名指控的细节,包括指示警卫向警察亮出武器和下令删除保密电话的记录...
喊话“苏超”!山东潍坊要办“V... 当全网还在为“苏超”热血沸腾时,潍坊球迷的“心痒”终于有了解药。就在这个夏天,属于潍坊人自己的顶级足...
韩媒披露尹锡悦涉嫌罪名细节:指... 韩国媒体7日披露韩前总统尹锡悦所受罪名指控的细节,包括指示警卫向警察亮出武器和下令删除保密电话的记录...
山东新成立一所大学,党委书记、... 据淄博职业技术大学网站消息,7月6日上午,淄博职业技术大学2025届学生毕业典礼在北区音乐厅举行。学...
玩具店主售卖水弹枪一审被判非法... 记者持续关注的“甘肃玩具店主买卖枪支案”有了新进展,7月7日,当事人聂鹏立从甘肃武威凉州区法院领到了...
天水一幼儿园血铅异常事件追踪:... 7月6日下午5时许,在西安市中心医院住院部一楼,来自甘肃天水的幼儿家长焦急等待着自家孩子的血铅检测结...
期待再“舰”!山东舰航母编队离... 今天上午山东舰航母编队圆满结束为期5天的访问活动返航离开香港回顾送别现场一幕幕感人画面仿佛一场大型“...
台风“丹娜丝”凌晨登陆台湾嘉义... 今年第4号台风“丹娜丝”今天零点前后在台湾嘉义县沿海登陆,登陆时由强台风级减弱为台风级。据台当局“灾...
乌称俄一化工厂遭袭,系俄军火供... 当地时间7月7日,乌克兰国家安全与国防事务委员会新闻中心负责人安德烈·科瓦连科表示,俄罗斯莫斯科州克...
圆满结束!一起回顾山东舰航母编... 山东舰官兵挥手告别今天上午海军山东舰航母编队圆满结束为期5天的访问活动返航离开香港中国军号对山东舰航...
台风“丹娜丝”已致台湾2人死亡... 7日,台湾灾害应变中心发布消息称,台风“丹娜丝”已造成台湾2人死亡,334人受伤。受“丹娜丝”影响,...
四部门:新能源车企自建的大功率... 国家发展改革委办公厅等关于促进大功率充电设施科学规划建设的通知发改办能源〔2025〕632号各省、自...