尼玛县下辖1个镇、13个乡，其中13个乡分别为：文部乡、中仓乡、卓瓦乡、卓尼乡、阿索乡、吉瓦乡、甲谷乡、俄久乡、荣玛乡、达果乡、申亚乡、军仓乡、来多乡。一个镇是尼玛镇。

尼玛县地势北高南低，地形以高原、丘陵、平地为主，全县平均海拔在5000米以上。北部为幅员辽阔的“无人区”。尼玛县境内主要山峰有藏色岗日、江爱达日那、角木日、岗日伯鲁等，海拔均在6000米以上。最高峰藏色岗日，海拔6460米。还有昆仑山、可可西里山，冈底斯山。