彭德怀、罗荣桓提议毛主席当大元帅，毛主席说：“我不当那个大元帅！让我穿上大元帅的制服到群众中去，多不方便嘛！”
1955年授衔时，在十大元帅之上，还设立了一个“大元帅”军衔。按照一开始的计划，这个军衔将授给毛主席，只是毛主席拒绝了。
在中国古代的军功爵位制中，并没有元帅。
春秋战国时期，元帅是表示对军队中资历、威望、战功最高者的尊称。从南北朝起，战时开始设置元帅职务，名称不一，有“天下兵马元帅”、“兵马大元帅”、“行军元帅”和“行营元帅”等称呼，其中又有都元帅、元帅和副元帅的等级之分。金朝、元朝则在枢密院之下设置了诸翼元帅府，任命元帅、同知元帅等职务，统军征战。但这些元帅都只是根据作战需求而设置的官职，不是军功爵位。
新中国的军衔制度主要借鉴了苏联，苏联的最高军衔为元帅，分为大元帅、苏联元帅、苏联海军元帅、军兵种主帅、军兵种元帅。大元帅只有一人，1945年6月27日授给斯大林。
值得一提的是，建国前，中国也有一个“大元帅”。1935年3月，南京国民政府颁布了新的军衔等级，把上将分为特级、一级、二级三个等级，最高军衔是特级上将，也叫“中华民国陆海空大元帅”，只有蒋介石一人获得。
新中国成立后，开始酝酿军衔制度。
1955年1月16日，在借鉴了苏联的军衔制度后，彭德怀和罗荣桓联名起草了授衔初步方案。
1955年2月8日，通过了《中国人民解放军军官服役条例》，其中第二章第七条就规定，最高军衔分为大元帅、元帅两级。
第二章第九条规定：“对创建全国人民武装和领导全国人民武装力量进行革命斗争，立有卓越功勋的最高统帅，授予中华人民共和国大元帅军衔。”也就是说，只有毛主席一人能享受大元帅军衔这项殊荣，这也是众望所归。
但毛主席虚怀若谷，坚持不要大元帅军衔，也不要什么勋章，当人们向他讲述斯大林授予大元帅军衔的情况时，毛主席却说：
“苏联有的，我们不一定要照搬。”
刘少奇以及一些民主人士纷纷劝说毛主席接受大元帅军衔，甚至总后勤部连大元帅军服都设计好了，那套大元帅礼服，是总后勤部指定其所属的天津军需工厂的女工们用纯手工为毛主席精心制作的，礼服很精致，很威武，但毛主席仍然提出自己不要大元帅军衔。
1955年8月下旬，彭德怀、罗荣桓、赖传珠向毛主席汇报评定军衔的方案时，毛主席说：
“你们搞评衔，是很大的工作，也是很不好搞的工作。根据国际国内的经验，我这个大元帅就不要了，让我穿上大元帅的制服，多不舒服嘛！到群众中去讲话、活动，也不方便。”
就这样，后来在实施军衔时，因为毛主席坚持不授大元帅军衔，所以“中华人民共和国大元帅”就成了我国历史上的一个空衔了。
毛主席此举，影响深远。
当时，毛主席还询问已经转业到地方工作的刘少奇、周恩来、邓小平：
“你们的军衔还要不要评啊？”
周恩来等人当即摆摆手：“不要评了。”
已列入大将名单的李先念、谭震林、邓子恢和张鼎丞也表示：“不要评了，不要评了。”
毛主席趁此提了一个建议：
“已在地方工作的，都不参加评衔为好。”
根据这一建议，党中央决定，凡是1952年没有参加军队评级，又转到地方任职的领导干部，包括驻外使节，一般都不参加评衔工作。这一决定解决了评衔过程中的许多矛盾，大部分已经到地方工作，尽管仍然兼任部队政委的领导干部，就没有参加评衔工作了。
于是，包括冯白驹、程子华、薄一波、滕代远、曾希圣、周保中在内的许多人就没有参加1955年的授衔工作。如果毛主席没有拒绝大元帅军衔，那么新中国将有1位大元帅，13位元帅和14位大将，上将等军衔的人数会更多，只是评衔工作很可能会变得更加复杂而混乱。