1954年10月，中央軍委同時公布兩項任命：粟裕出任總參謀長，黃克誠出任中央軍委秘書長。

在大眾認知里，總參謀長統管全軍作戰、訓練、調動，是手握兵權的軍事首長。軍委秘書長負責文書傳達、會務安排，職務定位是輔助性質。

這個判斷放回建國初期的實際權力格局中并不準確。從1954年到1992年十四大決定不再設立軍委秘書長為止，在大多數時間里軍委秘書長的實際話事權壓過了總參謀長。這不是某一個人的意志在推動，而是整套治軍理念在幾十年間逐步演變出來的結果。
軍委秘書長這個職務，是1937年8月洛川會議上正式設立的。1937年8月下旬，洛川會議決定成立中共中央革命軍事委員會。
總參謀長的歷史則更早。1930年劉伯承從蘇聯回國，出任中共中央軍委參謀長。1932年10月任紅軍總參謀長，于第四次反“圍剿”期間協助總理、朱老總指揮紅軍作戰。
葉劍英在1931年進入蘇區后，擔任中革軍委總參謀部部長，參與指揮了第二、三次反“圍剿”作戰。這兩個人都是深度介入軍事決策的核心角色。
秘書長的情況則完全不同。首任秘書長楊尚昆在洛川會議后開始履行職責，主要負責電文匯總、指示傳達和文書處理，極少涉及作戰決策。戰爭邏輯簡單直接，誰指揮打仗誰就有話語權。總參謀長站前排，秘書長站后排，分工界線清清楚楚。

1954年秋季的格局徹底改寫了這層關系。粟裕接任總參謀長時，黃克誠同時被任命為軍委秘書長、國防部第一副部長、總后勤部部長兼政委。從大將排名看，粟裕是第一大將，黃克誠是第三大將，實際工作中的站位卻另有邏輯。
時間回到1953年1月，黃克誠到總參工作不久，彭德懷率工程兵司令員陳士榘、海軍副司令員羅舜初等人赴華東檢查戰備工作。
1953年1月30日，主席召集黃克誠、張宗遜、蕭華、蕭向榮開會，宣布：聶榮臻病休、彭德懷外出期間，由黃克誠代理彭德懷和聶榮臻負責的日常工作。
1953年10月23日，彭德懷在會議上說道：我要休息一段，軍委日常工作由黃克誠同志負責處理。出席這次會議的有粟裕、傅秋濤、蕭華、甘泗淇、徐立清等人。
11月27日，彭德懷向主席報告軍事系統高干會議的主席團名單，由朱德、劉伯承、賀龍、葉劍英、羅榮桓、徐向前、聶榮臻、黃克誠、彭德懷九人組成。主席于28日批復“照辦”。除黃克誠之外，主席團其余成員清一色是元帥。黃克誠以大將身份位列其中，憑的就是彭德懷賦予他的日常主持權。

從這以后，軍委和總參共用一個辦公廳，黃克誠以秘書長身份主持軍委日常事務。總參謀長粟裕要匯報工作，對接的上級正是這位秘書長。工作上的摩擦由此產生。
粟裕習慣機斷行事，有時直接越過黃克誠向上請示。黃克誠重程序、講規矩，對此并不認同。國防部與總參謀部之間的權責邊界從未真正厘清，總參謀部名義上統管全軍軍事工作，國防部又是名義上的最高軍事行政機關。粟裕身處其間進退兩難，多管幾件事可能被批評越權，少管幾件事又會被指責不敢負責。黃克誠代表軍委層面對總參提要求、下結論，完全名正言順。
1958年6月，主席在軍委擴大會議上講了一句定調子的話：“講責任，第一是我，第二是彭德懷，第三恐怕是黃老，因為他是秘書長，還有各總部。”
軍委主席親口把秘書長排進責任序列第三位，這種分量是戰時歷任秘書長無法相比的。就在這次擴大會上，粟裕被解除總參謀長職務，改任國防部副部長兼軍事科學院副院長，其中國防部副部長系掛職，主要工作地點在軍事科學院。

1959年廬山風波后，彭德懷和黃克誠同時離開軍隊。國防部長由林彪接任，軍委秘書長和總參謀長兩個職位都空了出來。林彪身體狀況不佳，日常軍務需要一個能扛起來的人，中央決定的人選是羅瑞卿。
羅瑞卿此前長期負責公安和政法系統，擔任公安部部長、公安軍司令員兼政委（公安軍番號于1957年9月1日撤銷）。

1959年9月，他被同時任命為中央軍委秘書長、總參謀長、國防部副部長。此后他的職務名單急速拉長：國務院副總理、國防工業辦公室主任、中央書記處書記，累計身兼十三個核心職務。組織上為他配備了四名專職秘書，分別負責軍隊日常事務、國防工業、黨政聯絡和機要文書。羅瑞卿辦公室的燈光經常亮到后半夜。
更重要的是一次制度變動。新軍委成立后建立軍委辦公會議，由羅瑞卿以秘書長身份主持日常工作，軍隊大小事項都要通過這個會議研究處理。
以往的流程是總參匯總上報、軍委決策批復，當同一個人既主持總參又主持辦公會議時，大量事務在他這里就可以直接拍板。秘書長這個職務被推上了前所未有的權力高度。
1965年末，羅瑞卿遭到錯誤批判，累計身兼的十三個核心職務均被免去。軍委秘書長一職由葉劍英元帥接替，楊成武上將于1965年12月任代總參謀長。此后，軍委辦事組于1967年8月成立，由吳法憲任組長，負責處理軍委日常工作。

誰坐在那個位子上，本身就是最直白的信號。元帥去當秘書長，上將去當總長，孰主孰次一望可知。職務的“含帥量”成了一把公開的標尺。
1971年的事件之后，中央對軍隊領導體制進行了深刻反思。一個被明確提煉出來的教訓是：一個人同時掌控總參謀部和軍委日常工作，風險極大，不可持續。
1971年10月，軍委辦事組被撤銷，成立軍委辦公會議。此后兩個職務基本走上分立道路，秘書長更多由更高層級的領導人擔任。
進入八十年代，秘書長與總參謀長的位階關系通過幾組人事安排被清晰固定下來。1979年1月，黨中央任命國務院副總理耿飚兼任中央軍委秘書長，協助軍委主席、副主席處理中央軍委日常工作。
1980年2月20日，總參謀部召開所屬部局正職以上領導干部大會。中央政治局委員、中央軍委秘書長耿飚主持會議，宣布中共中央決定：鄧小平免兼中國人民解放軍總參謀長、總參謀部黨委第一書記，楊得志為中國人民解放軍總參謀長、總參謀部黨委第一書記、中央軍委副秘書長、軍委辦公會議成員。

秘書長主持總參干部大會并宣布總長任命，位次高下不言自明。
此后楊尚昆擔任軍委秘書長，進而擔任軍委副主席兼秘書長，主持軍委常務工作。這一時期的兩位總參謀長楊得志、遲浩田，在軍委班子中的排位均低于楊尚昆。到遲浩田擔任總參謀長時，秘書長楊尚昆已是軍委副主席。
1992年10月，黨的十四大決定不再設立軍委秘書長。這個職務從1937年8月洛川會議設立起，存在了五十五年。
戰爭年代它是后排的文書角色，建國后逐步演變成軍隊日常運轉的真正樞紐。

四十余年間，從黃克誠主持日常工作會議，到羅瑞卿身兼十三職，再到葉劍英在非常時期以秘書長身份臨危受命代理總參謀長，它的分量遠比“協助首長處理日常工作”這個名頭要厚重得多。