此诗描绘了官府夜晚的寂静与诗人内心的纷扰。首句“吏散公庭夜已分”，点明时间背景，官署中官员散去，夜幕降临，营造出一种清冷而宁静的氛围。接着，“寸心牢落百忧熏”一句，直接表达了诗人内心的复杂情感，仿佛百般忧虑如同烟雾一般弥漫在心头，难以排遣。
“催科无政堪书考，出粟何人与佐军。”这两句进一步揭示了诗人的职责与困境。面对催收赋税的任务，却无法有效执行，政绩不佳；同时，需要支援军队的粮食，却无人相助，凸显出其面临的困难与无奈。
“饥鼠绕床如欲语，惊乌啼月不堪闻。”这两句运用拟人化的手法，生动地描绘了环境的凄凉与诗人的孤独。饥饿的老鼠在床边徘徊，似乎在诉说着什么；而月光下的乌鸦哀鸣，更增添了夜晚的悲凉气氛。
最后，“扁舟未得沧浪去，惭愧舂陵老使君。”表达了诗人对自由生活的向往和对过去职位的怀念。他渴望像屈原那样乘着小船漂泊于江湖之间，但现实却让他无法实现这一愿望。同时，他对曾经的上司表示了歉意和敬意，可能是因为未能完成职责或辜负了上司的期望。
整首诗通过细腻的描写和情感的流露，展现了诗人面对官场困境时的复杂心情，以及对自由与理想生活的向往。
