a smart stream-like crawler & etl python library
etlpy是基于配置文件的数据采集和清洗工具。
写爬虫和数据清洗代码总是很烦人。因此，应该通过工具生成爬虫和数据清洗的代码！ etlpy就是为了解决这个问题而生的。
通过可视化和图形化设计工具，快速生成爬虫和数据清洗流程，并保存为xml文件，并由etlpy引擎解析它，即可获得最终的数据结果。
使用起来非常简单:
from etl import ETLTool
tool = ETLTool();
tool.LoadProject('project.xml', '数据清洗ETL-大众点评');
datas = tool.RefreshDatas();
for r in datas:
print(r)RefreshDatas函数返回的是生成器，通过for循环，即可自动读取所有数据。
模块分为 生成，过滤，排序，转换，执行四种。
利用Python的生成器，可以将不同模块组织起来，定义一个流水线，数据（python的字典）会在流水线上被加工和消费。
图形化工具是用C#开发的，使用了类似Python生成器的Linq技术。其原始思路来自于Lisp的s-表达式。
爬虫，计算，清洗，任何符合一定计算范式的数据，都可以使用它来完成。