1、概念不同
将军一般是高级军事将领的统称，不同朝代、国家其具体指代不同：中国古代常作为高级武官、军政官员的职位甚至是爵号；日本幕府时期，将军是日本的最高权力者；近现代，多用于称呼军队中的将级军官。
元帅在历史上曾经有过两种含义：一是官职名称，二是军衔称号。“元帅”一词源自上古德语中的“马”和“仆人”。
2、出现时间不同
作为高级军事统帅，“将军”早在二千多年前就出现了。
我国最早出现元帅是在公元前633年的春秋时期，其名源于《左传·僖公二十七年》所载晋文公的“谋元帅”，即考虑中军主帅人选，晋国名将先轸在城濮之战与崤之战中屡立战功便成为了我国历史上第一位有元帅头衔并有着元帅战绩的军事统帅。
3、级别不同
元帅代表着军事上的最高统帅，一个国家里面如果同时有将军和元帅两个称号，元帅是肯定要大于将军的（指的是最高级别），比如我国成立之后就按战功大小评出了十大将军和十大元帅，十大将军非别是粟裕、徐海东、黄克诚、陈赓、谭政、肖劲光、张云逸、罗瑞卿、王树声、许光达。