过滤只是除去一些肉眼可见的杂质，然而水中有许多钙镁化合物，这些都是无法用过滤除去的。

将硬水变成软水的方法有煮沸或蒸馏。水的硬度是由碳酸氢钙或碳酸氢镁引起的。硬水经过煮沸或蒸馏以后，水里所含的碳酸氢钙就会分解成不溶于水的碳酸钙，水里所含的碳酸氢镁就会生成难溶于水的碳酸镁沉淀。这些沉淀物析出，水的硬度就可以降低，从而使硬度较高的水得到软化。