24岁时，焦耳开始对通电导体放热的问题进行深入的研究。。焦耳首先把电阻丝盘绕在玻璃管上，做成1个电热器。然后把电热器放入1个玻璃瓶中，瓶中装有已知质量的水。给电热器通电并开始计时，用鸟羽毛轻轻搅动水，使水温度均匀。从插在水中的温度计，可随时观察到水温的变化。同时用电流计测出电流的大小。焦耳把这种实验做了一次又一次，大量数据使焦耳发现：电流通过导体时产生的热量跟电流的平方成正比，跟导体的电阻成正比，跟通电的时间成正比。

焦耳把这一实验规律写成论文《关于金属导体和电池在电解时放出的热》。然而，论文并没有引起学术界的重视。因为在一些学者们看来，电与热的关系不能那么简单，况且焦耳只是1个酿酒师，又没有大学文凭。一年后，俄国彼德堡科学院院士楞次也做了电与热的实验，并得到与焦耳完全一致的结果。焦耳的论文才得到重视，后来人们把这个定律叫做焦耳定律。