黑龙江省有着悠久的历史。先秦时代肃慎、东胡、秽貊三大族系的部分先民，就已定居在黑龙江地区。

公元前4世纪至公元前3世纪，就有夫余政权建立，地跨今黑龙江省南部。

秦以后，在黑龙江地区生息活动的先后有挹娄人、夫余人、鲜卑人、勿吉人和靺鞨人等。

698年，粟末靺鞨首领大祚荣建立渤海国，最盛时辖5京15府62州，地跨今黑龙江东部和南部。

明设奴儿干都司。清设黑龙江将军和吉林将军，管辖黑龙江地区。

1652年，清廷派梅勒章京率兵驻守宁古塔（今海林、宁安境内）地方，翌年升为昂邦章京。东北地区被划分为两大军事驻防区域。1671年，清朝沿黑龙江岸筑城，名黑龙江城，清朝后期后改为黑龙江省。

1949年5月，嫩江省与黑龙江省合并成立新的黑龙江省，省会齐齐哈尔。合江省与松江省合并成立新的松江省，省会哈尔滨。同时，将哈尔滨市改为松江省辖市。