随着党的队伍的不断发展壮大，越来越需要设立专门执行监督职能的机构，加强对党员的管理。1926年4月，广东党组织建立了中共广东区执行委员会监察委员会。这是中国共产党最早的地方性纪律检查机关，也是我们党建立党的监督机制的最初尝试。

1927年4月底至5月上旬，中国共产党第五次全国代表大会在武汉举行。这次大会的一个重要决定和亮点，就是成立中央和省一级监察委员会，并选举产生了中央监察委员会。这是党的历史上首次设立的中央监督机构，也是中央纪委的前身。

党的五大授权中共中央政治局于同年6月制定的《中国共产党第三次修正章程决案》，专列“监察委员会”一章，规定“为巩固党的一致及权威起见，在全国代表大会及省代表大会选举中央及省监察委员会”。“对于违反党的纪律的行为，须经党的委员会，党员大会，或监察委员会，依合法手续审查之。”

为了保证相对独立性，党章规定：“中央及省监察委员，不得以中央委员及省委员兼任。”“中央及省监察委员，得参加中央及省委员会议，但只有发言权无表决权。遇必要时，得参加相当的党部之各种会议。”

党章规定：“中央及省委员会，不得取消中央及省监察委员会之决议；但中央及省监察委员会之决议，必须得中央及省委员会之同意，方能生效与执行。遇中央或省监察委员会与中央或省委员会意见不同时，则移交至中央或省监察委员会与中央或省委员会联席会议，如联席会议再不能解决时，则移交省及全国代表大会或移交于高级监察委员会解决之。”

因此，当时的监委与党委是互有制约的。如有不同意见，交双方的联席会议解决，再不行，则提交党代会决定。

当时，中国共产党已经是共产国际的一个支部，受共产国际领导，共产国际正开展全世界共产党的布尔什维克化运动，并制定了各国共产党模范章程。所以监委与党委关系的规定主要源自20世纪20年代的联共（布）。

到1928年党的六大时，由于联共（布）党内情况发生变化，中国共产党的监察机关及其职能、任务也发生变化。党的六大通过的党章，取消了监察委员会的条款，改为“审查委员会”一章，并选举产生了中央审查委员会。

审查委员会虽然仍由党代会选举产生，但主要职责仅是“监督各级党部的财政、会计及各机关之工作”，而“关于犯纪律的问题，由党员大会或各级党部审查之。各级委员会得成立特别委员会以预先审查关于违犯党纪的问题。此种特别委员会之决议，经该级党部批准后，方发生效力”。

 此后，党的纪律检查机关又经历了一个比较复杂的演化过程。