刘禹锡因在任监察御史期间，曾经参加了王叔文的“永贞革新”，反对宦官和藩镇割据势力。革新失败后，被贬至安徽和州县当一名小小的通判。贬谪的日子里，刘禹锡的心情肯定是郁闷的，但作为才华横溢的诗人，他一路走来，肯定也不会错过沿途的风景。当他途经古有天中之称的蔡州（今河南省汝南县）时，曾慕名登临了城郊的天中山。在那里心有所思。
当他来到时安徽和州就任，当时官员可以分到房子，而作为通判的他按律可分到三间三乡的房子。可和州知县见作者被贬，故意刁难之。和州知县先安排他在城南面江而居，作者不但无怨言，反而很高兴，还随意写下两句话，贴在门上：“面对大江观白帆，身在和州思争辩。”和州知县知道后很生气，吩咐衙里差役把作者的住处从县城南门迁到县城北门，面积由原来的三间减少到一间半。新居位于德胜河边，附近垂柳依依，环境也还可心，作者仍不计较，并见景生情，又在门上写了两句话：“垂柳青青江水边，人在历阳心在京。”
后来，刘禹锡心有所感，面对自己的陋室，想到杨雄、孔明等先贤，又爬天中山的情形，故写出“山不在高”的名句。
