山麻雀所吃动物性食物主要为昆虫，其中较常见的有金花甲、金龟甲、叩头甲、蜷象、蜻蜓幼虫、鳞翅目幼虫、象鼻虫、瓢虫、蚂蚁、蝉、蚊、铜绿金龟甲等；植物性食物主要有麦、稻谷、荞麦、小麦、玉米以及禾本科和莎草科等野生植物果实和种子。

山麻雀栖息于海拔1500米以下的低山丘陵和山脚平原地带的各类森林和灌丛中，在西南和青藏高原地区，也见于海拔2000—3500米的各林带间。多活动于林缘疏林、灌丛和草丛中，不喜欢茂密的大森林，有时也到村镇和居民点附近的农田、河谷、果园、岩石草坡、房前屋后和路边树上活动和觅食。