1958年5月24日,中央軍委擴大會議舉行第一次小型會議,參加會議者基本上都是軍委委員和軍隊的中央委員。彭德懷在會上宣布,這次擴大會議的主要內容是整風、整編兩大問題,要採取大鳴放、大爭辯的方法來解決問題。令粟裕深感意外的是,一天之後,即5月26日,當他接到通知趕去中南海懷仁堂參加有軍委主要領導參加的會議時,發現會議竟是衝著他來的。與會者就粟裕在所謂「總參和國防部關係」上的「錯誤」進行了批判。批判中給粟裕的帽子有「一貫反領導」、「向國防部要權、「告洋狀」等。有關這次會議的內容,還向總參二級部的領導作了專門的傳達,明顯地是為在軍委擴大會上批判粟裕定調子。
軍委擴大會議於5月27日正式召開,蕭克在這次會議上被點了名。28日,粟裕就被迫在有50多人參加的軍委擴大會第二次小型會議上作檢討。但這時會議的氣氛還比較緩和。對此,毛澤東不很滿意。他認為會議的溫度不夠高,因此要求元帥們和與會者以整風的精神大鳴大放,通過會議與大小字報相結合的辦法,一週之內使空氣緊張起來。
30日,當召開第三次小型會議時,黃克誠傳達了毛澤東關於「把火線扯開,挑起戰來,以便更好地解決問題」的指示。於是,會議的溫度迅速上揚,總參二級部的一位部長在這一天直接點出了「彭總與粟總長之間有隔閡,將帥不和」這個問題。主持會議的彭德懷當即表態贊同扯開這個問題。
6月1日,針對有人擔心把領導者個人之間的關係問題搞到大會上去影響不好,彭德懷在主席團會議上再度表明自己的態度說:「我不能同意×××的態度,說是會議有師級幹部參加,我和粟的問題在軍委小會談即可,不要在大會上搞,怕傳出去不好。有什麼不好?這是軟弱!」因此,對粟裕的批判迅速擴展到大會上去了。會議的組織者不僅向各組介紹粟裕所謂「問題」,而且開始組織和動員一些領導幹部對粟裕「揭發」批判。
會議強加給粟裕的罪名是「反黨反領導的極端個人主義者」。主要根據:一是說粟裕「一貫反領導」,與陳毅、聶榮臻和彭德懷三位領導都搞不好;二是說粟裕「向黨要權」、「向國防部要權」,「爭奪軍隊領導許可權」;三是說粟裕「告洋狀」。對此,粟裕一邊檢討,一邊也儘可能地做了實事求是的說明。
關於「一貫反領導」和向黨「要權」。粟裕申辯說,所謂他曾經支持饒漱石反對陳毅的說法是不實的。「1943年饒漱石在淮南黃花塘趕走陳毅同志,當時我在一師根本不知道這件事,不僅我,別的師的幹部也根本不知道。事實上饒的這種陰謀,他是不敢向下講明的。」他並且說明,他不僅對陳毅同志一貫是尊敬的,而且也從不爭權力。他舉例說,1945年中央曾任命他為華中軍區司令員,張鼎丞為副司令員。他認為張是黨內有資望的老同志,新四軍二支隊時張就是司令員,他是副司令員,因此華中軍區司令員也應該由張擔任才好。因此,他壓下了中央的這個任命,向中共中央提出了建議,中央因此修改了任命。1947年軍委要他帶王必成縱隊到魯西南,同陳士矩、唐亮的部隊匯合,統一指揮這六個在外線的縱隊,他當即復電軍委,強調這六個縱隊是華東的主力,必須由陳毅同志親自指揮。1948年他到西柏坡向中共中央匯報工作,毛澤東當時明確主張派陳毅到中原去,把華野交給他負責。他當即表態說,陳毅同志無論如何不能離開華野。在毛澤東強調陳毅必須到中原去之後,他也還是堅持,華野司令員仍然要由陳毅同志兼。
關於「告洋狀」。當時他和蘇軍總長的會面完全是事先安排的,會見總共只有20分鐘,加上翻譯,兩個人每人頂多只能講五分鐘話。粟裕解釋說,當時提出請對方提供一份蘇軍「關於國防部和總參謀部工作職責的書面材料」,是鑒於軍委責成總參起草的國防部及總參職責條例五易其稿通不過,完全「沒有意識到這是『告洋狀』,當時的動機,還是想參考一下蘇軍的經驗,來草擬我們已經寫過五次還沒有定稿的工作職責條例。」
但是,粟裕越解釋,會場上的火藥味就越濃。當他說明自己從不爭權,堅持華野司令員由陳毅兼和主動不就任華中軍區司令員一職時,彭德懷竟然說:「這正說明你陰險!」一位軍委領導甚至由他的幾句檢討引申出一頂大得嚇人的政治帽子,說:「作為總參謀長來講,有了嚴重的資產階級個人主義,就不是做小偷,而是要做大盜,大盜盜國!」
軍委擴大會議上的濃烈的火藥味,使每一個挨批判的人都不能不違心地檢討。粟裕看得很清楚,堅持解釋下去,自己的問題必然被歸入敵我矛盾。面對強大的政治壓力,粟裕不得不在第二次大會檢討時,把會議強加給他的罪名一一承認了下來。軍委擴大會開始後,毛澤東曾向蕭勁光徵詢對粟裕的看法。蕭說「粟裕為人正派,沒有二心」。毛點頭贊同。此後毛又講了句公道話:「粟裕同志戰爭年代打仗打得好,是為公的。到北京以後是為公還是為私?不能說都是為私吧!」因此,陳毅在聽了7月14日粟裕的第三次大會檢討之後,主動走上前去握著粟裕的手說:「講得很好。」並且帶頭鼓掌,表示通過。次日,陳毅又在大會上講:「昨天他的檢討,我覺得很好。如果說我和他有很大的分歧,經過昨天他的檢討,造成了我和他重新團結的基礎,我個人表示歡迎。過去他在三野軍事上貢獻是很大的,主要是打勝仗的。他轉了就很好,歡迎他這個態度。」
不過,粟裕並沒有因此得到解脫。軍委擴大會議雖然於7月22日結束了,仍有人繼續在中央領導中施加影響,把「告洋狀」進一步誣為「裡通外國」。這就使毛澤東對粟裕產生了嚴重的不信任。不久後,毛澤東甚至在一次中央會議上把粟裕作為軍內的「壞人」點了名。結果,8月31日,中共中央政治局通過了「解除粟裕總參謀長職務」的決定,並決定將他的「錯誤」口頭傳達到軍隊團一級、地方地委一級。
彭德懷是令人敬仰的老一輩革命家,但他對1958年軍委擴大會議的錯誤負有不可推卸的責任。正如近期中央文獻出版社出版的《從陳獨秀到毛澤東》一書中所說的:「彭德懷挨了整,也曾以同樣方式整過別人。」這是歷史的事實。