二十九岁时，他出任州祭酒，不久便不堪吏职，辞官归家。不久，州里又召他做主簿，他辞却了此事，依旧在家闲居。隆安二年，陶渊明加入桓玄幕。隆安四年初奉使入都，五月从都还家，于规林被大风所阻，有诗《庚子岁五月从都还阻风规林》，表达了他对归家的渴望和对园林对旧居的怀念。一年后因母丧回浔阳居丧。三年丁忧期满，陶渊明怀着“四十无闻，斯不足畏”的观念再度出仕，出任镇军将军刘裕参军。此时他的心情是矛盾的，既想为官一展宏图，可在出仕后却仍然眷念田园，“目倦川途异，心念山泽居”《始作镇军参军经曲阿作》。义熙元年三月，陶渊明为建威将军刘敬宣参军，经钱溪使都，有《乙巳岁三月为建威参军使都经钱溪》诗云：“晨夕看山川，事事悉如昔”，“眷彼品物存，义风都未隔”，“园田日梦想，安得久离析”，动荡于仕与耕之间已有十余年，他已厌倦了也看透了官宦生活。