基于语义树的非结构化年鉴Excel表格的ETL方法

作者：赵乐^*; 赵宏宇; 刘斌; 陈彦如

来源：计算机应用, 2021, S2: 131-135.

• Excel表格
• 抽取-转换-加载
• 语义树
• 正则表达式
• 数据仓库

针对计算机程序在对海量Excel表格中的中国城市年鉴数据进行抽取-转换-加载(ETL)时由于表格的非结构化格式导致的准确率和查全率较低的问题,提出了一种基于语义树的ETL方法。首先,通过数据与表格行名、列名的对应关系分别建立两棵语义树模型,利用两棵语义树生成包含数据项以及数据项所属行名、列名的元数据集合;然后,通过正则表达式对每个元数据所属行名、列名进行语义匹配,从该集合中删除不需要的分项或汇总项元数据;接着,通过三种基于字典的过滤策略进一步做数据清洗,将剩余的元数据导入到数据仓库中;最后,从总量30万个统计年鉴表格中随机抽取604个进行程序ETL与人工ETL对比,实验结果表明,所提出的程序ETL可达到人工ETL86.51%的准确率和95.15%的查全率,可以满足考察地方发展现状、编制和发展未来规划的需求。

• 单位
  中铁第四勘察设计院集团公司; 西南交通大学; 经济管理学院