劉遵祖少為殷中軍所知，稱之於庾公。庾公甚忻然，便取為佐。既見，坐之獨榻上與語。劉爾日殊不稱，庾小失望，遂名之為“羊公鶴”。昔羊叔子有鶴善舞，嘗向客稱之。客試使驅來，氃氋而不肯舞。故稱比之。

　　“王天下有三重焉，其寡过矣乎！上焉者虽善无徵，无徵不信，不信民弗从；下焉者虽善不尊，不尊不信，不信民弗从。故君子之道：本诸身，徵诸庶民，考诸三王而不缪，建诸天地而不悖，质诸鬼神而无疑，百世以俟圣人而不惑。质诸鬼神而无疑，知天也；百世以俟圣人而不惑，知人也。是故君子动而世为天下道，行而世为天下法，言而世为天下则。远之则有望，近之则不厌。《诗》曰：‘在彼无恶，在此无射。庶几夙夜，以永终誉！’君子未有不如此，而蚤有誉于天下者。”

　　桓車騎在荊州，張玄為侍中，使至江陵，路經陽岐村，俄見壹人，持半小籠生魚，徑來造船雲：“有魚，欲寄作膾。”張乃維舟而納之。問其姓字，稱是劉遺民。張素聞其名，大相忻待。劉既知張銜命，問：“謝安、王文度並佳不？”張甚欲話言，劉了無停意。既進膾，便去，雲：“向得此魚，觀君船上當有膾具，是故來耳。”於是便去。張乃追至劉家，為設酒，殊不清旨。張高其人，不得已而飲之。方共對飲，劉便先起，雲：“今正伐荻，不宜久廢。”張亦無以留之。