民主革命时期，中共中央军事委员会的军事工作机关，也是组织全国武装力量建设和作战指挥的最高军事指挥机关。始建于土地革命战争初期，1927年八一南昌起义时设立参谋团（即军事委员会），刘伯承任参谋长，周恩来、贺龙、叶挺、蔡廷锴、邓演达任委员。1929年，聂荣臻任参谋长。1931年1月，中华苏维埃中央革命军事委员会（简称中革军委）成立参谋部。11月，中华苏维埃共和国成立，军委正式设立中华苏维埃共和国中央革命军事委员会总参谋部，叶剑英任总参谋部部长。1932年6月，中革军委将总参谋部部长改称总参谋长，下设参谋处。10月，刘伯承任总参谋长。1933年5月，中革军委总参谋部又改称中国工农红军总参谋部。下设第一局至第五局，分别负责作战、情报、训练、通信联络、管理工作，军委总兵站部、总供给部先后并入第四局。1934年2月，在中华苏维埃第二次代表大会上中革军委成员改选，刘伯承任新成立的中革军委总司令部的总参谋长。增设第六局，即总参谋部动员局。不久，刘伯承由于在作战方针上同李德、博古等存在严重分歧被免职，总参谋部由叶剑英负责。1935年6月，红军第一、第四方面军在四川懋功会师。8月，中革军委总司令部机关与第四方面军总司令部部分人员组成红军总司令部，刘伯承任总参谋长。9月上旬，红军总司令部机关随右路北上的红军编为陕甘支队，下设司令部，叶剑英任参谋长。11月，增设第七局，即总参谋部粮食总局。同月，西北革命军事委员会成立，军委参谋部兼红一方面军总司令部（亦称参谋部），叶剑英任总参谋长，张云逸任副总参谋长。下设作战、通信、机要等七个科。1936年12月，红军总司令部并入西北军委参谋部，改成中革军委总司令部，刘伯承任总参谋长，叶剑英、张云逸任副总参谋长。1937年7月，中革军委总司令部改称中革军委参谋部。8月，中共中央革命军事委员会（简称中央军委）成立，萧劲光任军委参谋长。中革军委参谋部即改称中央军委参谋部，聂鹤亭任参谋部部长，归军委参谋长直接领导。同月，中国工农红军主力改编为国民革命军第八路军，叶剑英任中央军委参谋长，陈奇涵任总参谋部部长。抗日战争期间，滕代远、陈奇涵、王若飞、许光达、叶剑英先后任军委参谋长或参谋部部长。1945年8月，中共中央革命军事委员会改称中共中央军事委员会，并恢复总参谋长名称，中央军委副主席彭德怀兼总参谋长，叶剑英任副总参谋长。解放战争时期，中央军委作战部继续履行总参谋部职责，管理总参和其他局的业务工作。1947年8月，彭德怀改任西北野战军司令员兼政治委员后，军委副主席周恩来代理总参谋长。1949年3月，中央军委决定建立航空局，归总参谋部建制。10月，中央军委总参谋部改称中央人民政府人民革命军事委员会总参谋部。