数据预处理的主要方法有哪些
数据的预处理是指对所收集数据进行分类或分组前所做的审核、筛选、排序等必要的处理;主要方法有数据清理,数据集成,数据变换,数据归约等。
数据清理;数据清理例程通过填写缺失的值、光滑噪声数据、识别或删除离群点并解决不一致性来“清理”数据。主要是达到如下目标:格式标准化,异常数据清除,错误纠正,重复数据的清除。数据集成;数据集成例程将多个数据源中的数据结合起来并统一存储,建立数据仓库的过程实际上就是数据集成。数据变换;通过平滑聚集,数据概化,规范化等方式将数据转换成适用于数据挖掘的形式。数据归约;数据挖掘时往往数据量非常大,在少量数据上进行挖掘分析需要很长的时间,数据归约技术可以用来得到数据集的归约表示,它小得多,但仍然接近于保持原数据的完整性,并结果与归约前结果相同或几乎相同。