东山再起的典故出自《晋书·谢安传》，指的是东晋名士谢安重新出山做官的故事。而东山，指的是再起的地点（位于绍兴上虞上浦镇境内，因为谢安隐居于此，又叫谢安山），所以是东山再起。
东山再起常用来形容一个人退隐后再度出任要职，也比喻失势后重新得势。出自《晋书·谢安传》：隐居会稽东山，年逾四十复出为桓温司马，累迁中书、司徒等要职，晋室赖以转危为安。淝水之战是中国古代著名的以少胜多的战例，其中一方的指挥就是当时晋朝的宰相谢安。当时前秦军队由苻坚率领，其步兵、骑兵，再加上车辆、马匹、辎重，队伍足有千里长，这使得晋孝武帝和京城的文武百官都慌了神儿，但谢安指挥若定，最后取得了胜利。
谢安是陈郡阳夏人，出身士族，年轻的时候，跟王羲之等人关系很好，经常在会稽东山游乐，吟诗谈文。他在当时的封建士大夫阶层中名望很高，大家都认为他是个非常有才能的人，但是他宁愿隐居在东山，不愿出来做官。有人曾推举他做官，他上任一个多月，就辞职回家了。于是士大夫中开始流传：谢安不出来做官，百姓怎么办？到了四十多岁的时候，他才又重新出来做官。由于其长期隐居在东山，所以后人就把他重新出来做官的事称为东山再起。
另有一种说法认为东山再起指的是宋代宰相李纲。李纲是北宋的主战派，曾力荐岳飞担任抗金的统帅。岳飞为秦桧陷害后，他自己也被贬到离京城最远的海南岛崖州。由于路途遥远和水土不服，李纲到海南东山岭时大病一场，无法继续前行，于是就暂时住在那里。有一次，他去庙里上香算卦，遇高僧指点，便上山修行。后来宋孝宗继位，秦桧被杀，李纲得到赦免并官复原职，一直做到宰相。
这两个故事都是开始时隐居或被罢官，后来再次有所成就。东山是他们再起的地点，故有东山再起之说。今天我们常用这个词语表达经历失败后再次成功。