
298
第 14章
自动化和规模化
你已经从
API
和网站爬取了大量的数据,也已经清洗和组织了数据,并且运行了统计学分
析,生成了可视化报告。现在是时候让
Python
大展身手,自动化你的数据处理了。在这一
章中,我们会介绍如何自动化数据分析、收集和发布。我们会学习如何创建合适的日志和
警报,这样可以充分地自动化脚本,得到成功、失败以及工作中碰到的任何问题的通知。
我们还会学习使用
Python
库规模化自动化程序,帮助执行多个任务,并且监控它们的成功
和失败。我们会分析一些库和辅助工具,充分地在云端规模化数据。
Python
提供了大量的自动化和规模化选择。有一些简单直接的任务可以在几乎所有的机
器上自动化执行,而不需要太多的设置,同时也有一些更大型、更复杂的方式来实现自动
化。我们会涉及这两者的示例,同时也会讲解作为数据处理者如何规模化数据自动化。
14.1
为什么要自动化
自动化提供了一种轻松运行脚本的方式,而不需要在本地机器上执行脚本,甚至不需要你
醒着!自动化的能力意味着你可以把时间花在其他的思维密集型项目上。如果拥有一个完
备的脚本来执行数据清洗,你就可以专注于研究数据,写出更好的报告。
下面是一些自动化可以帮上忙的示例。
•
每周二输出一些新的分析结果;你要编制一份报告,并将其发送给相关方。
•
其他部门或同事需要能够在没有你的指导和支持下运行报告工具或清洗工具。
•
你需要每周进行一次数据下载、清洗和发送。
•
每次用户请求新报告,报告脚本需要运行,并且在报告生成后通知用户。
•
你需要每周清洗一次数据库里错误的数据,并且将其备份到其他地方。 ...