我們黨是靠革命理想和鐵的紀律組織起來的馬克思主義政黨，紀律嚴明是黨的光榮傳統和獨特優勢。中國共產黨作為百年大黨，在革命、建設、改革的各個歷史時期特別是在重要歷史節點，高度重視并適時開展對全黨的紀律教育，積累了豐富經驗，保證了我們黨不斷從勝利走向勝利。
建黨伊始，紀律就被視為黨生存與發展的重要條件。黨的一大通過的第一個綱領，雖然沒有使用紀律的概念，但是包含了政治紀律、組織紀律、保密紀律的相關內容。
黨的二大制定的第一部正式黨章，專設“紀律”一章，規定了極為嚴格的紀律。黨的二大通過的《關于共產黨的組織章程決議案》，明確提出黨的內部必須有適應于革命的組織與訓練，強調我們的組織與訓練必須是很嚴密的、有紀律的。
黨的五大通過的《組織問題議決案》第一次明確提出了“政治紀律”的概念，指出：“黨內紀律非常重要，但宜重視政治紀律。”由中共中央政治局通過的五大黨章，第一次載入“民主集中制”，第一次規定選舉產生中央及省監察委員會，強調“嚴格黨的紀律是全體黨員及全體黨部最初的最重要的義務”。
土地革命戰爭時期，武裝斗爭成為黨的中心工作。紅軍素以紀律嚴明著稱，一貫重視紀律教育。當時，抓軍紀就是抓黨紀。
毛澤東在率領秋收起義部隊上井岡山過程中，要求大家一定要和山上的群眾搞好關系，并鄭重宣布了三大紀律；不久，針對部隊攻克縣城后侵占小商販利益等問題，他又宣布了六項注意。
不到一年后，通過完善發展形成了最初的“三大紀律八項注意”。1935年，這些紀律條文被改編成歌曲，廣為傳唱，成為我黨我軍紀律教育的生動教材。
1947年10月，毛澤東對原先各地各軍略有出入的條文作了統一規定并重新頒布，在紀律教育中發揮了重要作用。
延安時期主要是抓住3個事件進行全黨范圍的紀律教育，強化黨員干部的紀律觀念。
反對張國燾分裂活動，進行“四個服從”教育。張國燾長征途中自恃軍事力量強大另立中央，大搞分裂活動，到達陜北后仍不思悔改，只身逃離陜甘寧邊區叛黨而去。針對張國燾分裂主義的行徑和吸取的教訓，1938年10月，毛澤東在黨的擴大的六屆六中全會上強調“四個服從”的原則，后正式載入七大黨章，成為最基本最重要的政治紀律和組織紀律，一直沿用至今。
通過黃克功事件進行嚴明紀法教育。黃克功16歲就參加革命，參加過長征，到達陜北后任抗日軍政大學第六隊隊長。1937年10月，他因逼婚不成，激憤之下槍殺了陜北公學女學員劉茜。當時在延安有兩種聲音：一種是殺了黃克功，殺人必須償命；一種是赦免黃克功，因為他資格老、功勞大。毛澤東在給時任陜甘寧邊區高等法院院長、黃克功案件審判長雷經天的復信中嚴肅指出，黃克功犯了不容赦免的大罪，如果赦免，“便無以教育黨，無以教育紅軍，無以教育革命者，并無以教育做一個普通的人”，因此中央與軍委根據黨與紅軍的紀律，處他以極刑，要求“對于自己的黨員與紅軍成員不能不執行比較一般平民更加嚴格的紀律”。黃克功事件在邊區引起極大震撼，共產黨不僅以紀法嚴明取信于民，而且以在紀法面前人人平等昭示全黨。
針對處分劉力功進行組織紀律教育。劉力功是一個從國統區奔赴延安的知識分子，1938年入黨，先在抗大學習，后去中央黨校培訓，畢業后不服從組織安排。黨組織曾7次找他談話，但他仍拒絕執行讓他去基層工作的決定。為此，中央黨務委員會決定開除劉力功的黨籍，并公布于全黨。時任中共中央組織部部長的陳云專門撰寫了《為什么要開除劉力功的黨籍》，在中共中央機關刊物《解放》上發表。圍繞這個問題，延安各機關、學校開展了一場廣泛的大討論，極大提高了黨員、干部、學生遵守紀律的自覺性。
抗日戰爭勝利后，在黨領導全國人民進行偉大的解放戰爭進程中，紀律成為能否奪取全國政權的關鍵因素。
吸取高家堡事件教訓，加強黨的政策和紀律教育。1948年1月，時任西北野戰軍副政治委員兼陜甘寧晉綏聯防軍政治委員的習仲勛在給中共中央的報告中，反映了我軍攻克陜北榆林高家堡時，對商人亂沒收等破壞紀律的問題。毛澤東在報告上批語：“高家堡破壞紀律的行為，應追究責任，并向全軍施行政策教育與紀律教育。”以此為契機，全黨開展了大抓紀律的工作。
建立請示報告制度，強調“加強紀律性”。由于各根據地、各部隊長期遠離中央，一度存在事前不請示、事后不報告的現象，導致各種違紀問題時有發生。為此，中共中央先后出臺一系列文件，包括《關于建立報告制度》的黨內指示，《關于建立報告制度的補充指示》等，從而形成了正規的請示報告制度，保證了中央的集中統一領導。特別是1948年9月8日至13日召開的中共中央政治局擴大會議，立了規矩，著重強調了加強紀律性問題，會后向全黨全軍發布了著名的四句話口號：“軍隊向前進，生產長一寸，加強紀律性，革命無不勝。”全黨全軍遵守紀律的自覺性極大提高，這為最后的戰略決戰、奪取全國勝利提供了重要保證。
新中國成立后，黨內違反政治紀律和組織紀律的行為有所抬頭，黨的紀律建設處于更加復雜的內外環境，面臨更為嚴峻的挑戰。
以共和國第一反腐大案為開端，拉開了執政黨紀律教育的大幕。1951年11月，查處了劉青山在擔任中共天津地委書記、張子善在擔任天津行署專員期間的嚴重腐敗問題。1952年2月10日，河北省人民法院召開公審大會，以貪污罪判處劉青山、張子善死刑，產生了極大的震懾作用。
以高饒事件為突破口，嚴肅黨的政治紀律，維護全黨的團結統一。1953年，時任國家計劃委員會主席的高崗與時任中共中央組織部部長的饒漱石，搞非組織活動，破壞了黨的團結和集中統一。1954年，黨的七屆四中全會通過《關于增強黨的團結的決議》。1955年，黨的全國代表會議通過決議，撤銷高崗、饒漱石黨內外一切職務，開除出黨。會議還決定成立黨的中央和地方監察委員會，與新中國成立初期建立的紀律檢查委員會相比，其地位更高、權限更大，更有利于加強對全體黨員特別是對黨的高級干部的監督。對高饒事件的處理給全黨敲響了警鐘，使全黨進一步認識到黨的團結是黨的生命，黨的政治紀律是不可觸犯的高壓線，任何時候都必須同黨中央保持高度一致。
改革開放初期，我們黨針對“文化大革命”及其結束后不正之風逐步蔓延的狀況，部署嚴厲打擊各種違紀違法行為，進行全面整黨，純潔黨的組織，整肅黨的紀律，恢復黨的優良傳統作風，同時針對此前黨規黨紀遭到嚴重破壞的狀況，著力建立健全黨內法規。
十二大黨章明確規定：“共產黨員必須自覺接受黨的紀律的約束”,“堅決維護黨的紀律，是黨的每個組織的重要責任”。這部黨章還對紀律處分的原則、種類、程序，對黨的紀律檢查機關的領導體制、地位作用、職責任務、工作權限等作出明確規定，從而以黨的根本大法的形式，為新時期加強黨的紀律建設提供了根本遵循。
1980年2月，黨的十一屆五中全會通過的《關于黨內政治生活的若干準則》，以簡潔、準確、規范的文字作出12條規定，對于堅持民主集中制、加強黨的政治紀律、正確處理黨內各種關系，發揮了長久深遠的重要作用。