中央军事委员会是中国共产党在领导中国人民进行革命斗争的过程中创建和发展起来的。中国共产党成立初始，工作重点侧重于领导工人运动、农民运动及开展统一战线工作。随着北伐战争时期工农群众革命运动的发展，才开始逐渐重视军事问题。1925年10月，中共第四届中央委员会第一次扩大的执行委员会提出建立中央军事运动委员会，指导党的军事工作。12月，中央军事运动委员会改为中央军事部。1926年2月中共中央特别会议后不久，中央军事部在上海正式成立，张国焘兼任部长。1926年7月，中共四届三中扩大会议专门作出《军事运动决议案》，指出，"军事工作是党的工作的一部分。"1926年底，周恩来率领一部分军事干部从广州到达上海，充实、健全中央军事部，并将中央军事部改称中央军事委员会，同时沿用中央军事部的名称，周恩来任部长，也称军委书记，负责指导在国民革命军和旧军队中的宣传、组织工作，发动和领导工农群众支援北伐战争。
土地革命战争时期，为适应独立领导武装斗争的需要，中央军委领导机构随着革命斗争和工农红军的发展，其职能由初期只进行组织和联络工作，发展为直接指挥工农红军的作战行动，领导部队全面建设。1927年11月，中共中央临时政治局扩大会议决定，军事部改为军事科， 隶属于临时中央政治局常委及其组织局，负责对军事工作的领导。1928年6、7月间，中共六大决定恢复中央军事部，由中共中央政治局常委直接领导，杨殷、周恩来先后任部长。同年10月25日，中共中央颁发《各级党部军事机关之组织大纲》，规定中央军事部内设军事委员会，作为就军事问题进行讨论和建议的机关。下设参谋、组织、兵士、特务和交通 5个科。1930年3月，中共中央决定将中央军事部更名为中央军事委员会，负责领导全国工农红军，作为党对军事工作的最高领导机关，周恩来任书记。1931年1月15日，为加强对全国苏维埃区域的领导和工作指导，成立中共苏维埃区域中央局，同时成立中央革命军事委员会，项英、毛泽东、朱德先后任主席。11月，中华苏维埃共和国临时中央政府成立，设立中华苏维埃共和国中央革命军事委员会，简称“中革军委”。朱德任主席，王稼祥、彭德怀任副主席，下设总参谋部、总政治部和总经理部。中革军委是中华苏维埃共和国临时中央政府的军事部门，并受中共中央苏维埃区域中央局领导。这是中央军委在组织上第一次不仅属于中共中央系统，同时纳入政权系统，既是中共中央的军事领导机构，又是全国苏维埃政府的军事部门。中革军委作为工农红军的最高领导和指挥机关，管理各革命根据地工农红军的组织、给养、教育和训练，并指挥工农红军的军事作战行动。“中央革命军事委员会的建立，统一了全国红军的领导，使各个苏区各个战线的红军部队，开始在统一的战略意志之下，互相呼应与互相配合的行动起来。这是由散漫的游击队的行动，进到正规的与大规模的红军部队的行动的重要关键。” 1935年1月，中共中央在贵州遵义召开政治局扩大会议。3月，成立了毛泽东、周恩来、王稼祥三人军事指挥小组，负责处理最紧急的军事工作，指挥红军的作战行动，实际上是中央的最高军事领导组织。中央红军长征到达陕北后，11月，与红十五军团会师。中共中央决定成立中国工农红军西北革命军事委员会。该委员会由中共中央直接领导，实际上担负中央军委职责。毛泽东任主席，周恩来、彭德怀任副主席。
1936年12月，为了适应第一、二、四方面军会师后的新形势，中华苏维埃共和国中央政府决定组成23人的中央革命军事委员会，毛泽东任主席，周恩来、张国焘任副主席，朱德任中国工农红军总司令，张国焘任总政委，刘伯承任总参谋长，王稼祥任总政治部主任。扩大后的中革军委，实现了对全国三大主力红军的集中领导和统一指挥。
1937年7月7日，抗日战争全面爆发。为加强对军队的绝对领导，适应国共合作共同抗日的新形势，8月，中共中央政治局扩大会议决定，成立新的中共中央革命军事委员会，简称中共中央军委，由11人组成，毛泽东为书记(主席)， 朱德、周恩来为副书记(副主席)。这标志着中央军委由政权系统恢复为党的系统。为了保证共产党对军事工作的绝对领导，8月29日，中共中央军委决定在华北八路军中成立前方分会，后称华北军委分会，朱德、彭德怀分任正、副书记，后又在华中新四军中先后建立中共中央军委新四军分会、华中局兼新四军军委分会(亦称华中军委分会)，统一指挥和领导八路军、新四军的抗日斗争。1945年4—6月，中国共产党在延安召开第七次全国代表大会。8月，成立了新的中共中央军事委员会，毛泽东任主席。下设总参谋部、总政治部、后勤部等。以毛泽东为主席的中央军委，是领导八路军、新四军全面建设、作战以及各革命根据地建设和武装斗争的最高统帅机构。
解放战争时期，中共中央军委的领导机构不断完善。1947年4 月至1948年5月，为适应粉碎国民党对陕北、山东解放区的重点进攻和转入战略反攻的需要，中央军委临时分为三部分。一部分留在陕北指挥全国解放战争；一部分转移到华北，主持中央工作委员会工作，并就近指导华北的作战；一部分留在晋西北，主持中央军委的后方机关工作。这三部分既分工又协作，实现了中共中央和中央军委对革命战争的一元化领导。1948年11月，中共中央决定，中央军委在对外公开发布命令时，使用“中国人民革命军事委员会”的名称。
