至迟在宋代，民间就开始流传“桃园三结义”的故事，宋末元初赫经在《重建庙记》中就有“初，王（关羽）及车骑将军飞（张飞）与昭烈（刘备）为友，约为兄弟”的说法。到了元代，该故事越来越完备，并且出现了不同的版本。下面举两个有代表性的版本。
元杂剧《刘关张桃园三结义》中对该故事是这样描述的：蒲州州尹臧一鬼欲谋自立，请关羽为帅。关羽杀死此人，随后逃往涿州范阳。此时张飞正在当地开肉店。这天，张飞外出，故意在店前用千斤巨石压住一把刀，告诉伙计，如果有人能从巨石下取出刀，就将肉送给他，分文不取，并让伙计记住他的住处。不久，关羽路过此店，听说此事，轻松地搬开巨石，从石下取出刀，却拒绝要肉。张飞回店后得知消息，专门去到关羽入住的客店相访，并拜关羽为兄长。二人后来又遇到刘备，二人见刘备长相非凡，便邀其一起喝酒。刘备大醉而卧，只见有赤链蛇钻进刘备七窍之中，关羽觉得“此人之福，将来必贵”，于是又共拜刘备为兄长。三人在城外桃园杀牛宰马，祭告天地，并立誓“不求同日而生，只求同日而死”。
元代《三国志平话》中的“桃园三结义”描写得更为真实：关羽是平阳蒲州解良人，生得神眉凤目，虬髯，面如紫玉，身长九尺二寸，喜看《春秋》《左传》，每每看到乱臣贼子，就心生怒气。后来，因本县官员贪财好贿，残害黎民，关羽一气之下将县令杀了，而后亡命逃遁，跑到涿郡。
涿郡有一本地人，姓张名飞，身长九尺余，声若巨钟，是当地大富人家。这天，他正站在自家门前，恰逢关公走过。张飞见这个汉子生得状貌非俗，于是向前施礼问候。关公便把自己的事告诉了张飞，听了关公一席话，张飞觉得关公有大丈夫之志，于是邀其到酒店共叙。二人把盏相欢，言语相投，好像老朋友一样。
这时，恰逢刘备在街上卖草鞋，卖完后也来酒店中买酒吃。关、张二人见刘备生得状貌非俗，有说不尽的福气。于是，关公向刘备敬一杯酒，这刘备也不客气，一饮而尽。聊了几句之后，三人干脆坐在一个桌子上了。喝了一会儿，张飞说此处说话不方便，请刘、关二人去他家中一叙。在张飞家的后桃园内，三人在亭内摆酒畅饮。席间，三人各序年甲：刘备最长，关公为次，张飞最小。于是，三人结为兄弟，大者为兄，小者为弟，又宰白马祭天，杀乌牛祭地。不求同日生，只愿同日死，三人同行同坐同眠，誓为兄弟。