东汉灵帝在位时期，有个大臣名叫蔡邕。他为人耿直，眼里容不下沙子，对于一些不好的现象，总是敢于向灵帝直谏。
蔡邕顶撞灵帝的次数多了，灵帝不免对他厌烦。再加上灵帝身边的宦官也忌惮他，常常在灵帝面前进谗言说他的坏话。蔡邕知道自己成了灵帝的眼中钉，随时有被加害的危险，就打点行装，从水路逃出京城，到吴地隐居起来。
蔡邕通晓音律，尤其擅长弹琴。从京城逃出来的时候，他舍弃了很多财物，就是舍不得丢下家中那把心爱的琴。在隐居吴地的日子里，他常常抚琴，借琴声来抒发自己壮志未酬反遭迫害的悲愤和惆怅。
有一天，蔡邕坐在房里抚琴长叹，女房东在隔壁的灶间烧火做饭，她将木柴塞进灶膛里，火星乱蹦，发出“噼里啪啦”的响声。
蔡邕听到隔壁传来的爆裂声，不由得心中一惊，竖起耳朵仔细听了几秒钟，大叫一声“不好”，跳起来就往灶间跑。来到灶膛边，他顾不得火势之大，伸手就将灶膛里正在燃烧的桐木拽了出来，大声喊道：“快别烧了，这可是一块做琴的好材料啊！”
蔡邕的手被烧伤了，他也不觉得疼，在桐木上又吹又摸。好在抢救及时，桐木还很完整，蔡邕就把它买了下来。然后精雕细刻，费尽心血，终于将这块桐木做成了一张琴。这琴弹奏起来，音色美妙绝伦，举世无双。
这把琴流传下来，成了世间罕有的珍宝，因为它的琴尾被烧焦了，人们就叫它“焦尾琴”。
后世因此有联曰：“灵帝无珠走良将，焦桐有幸裁名琴”。