，河北为陈访先、詹朝阳、胡梦华，山东为赵伟民等，河南为陈伴岭、王星舟、李敬斋、张廷休，陕西为宋志先等，甘肃为田昆山、凌子惟等，黑龙江为王宪章、王秉钧等，察哈尔为马亮、刘诚宜、郭境恺等，绥远为赵允义、孙国英等，宁夏为沈德仁，青海为燕化棠、方少云、李天民，南京为方治，上海为潘公展、音行白、陶百川、陆京士、吴开先，北平为陈石泉、庞镜塘，青岛为李汉呜等，汉口为李翼中、吴企云、单成仪等。这样，二陈通过这批亲信实际控制了全国各地的国民党组织。
在整理各级党部的同时，陈果夫还对国民党党员进行重新登记。为了从严把关，陈果夫命令各级党部在党员登记期间一律停止活动，听候中央派员整理，所有党员一律重新登记。
党员登记时，应慎重考查，曾经加入本党以外的任何团体者，必须切实声明与该团体脱离关系。登记的党员必须绝对遵守纪律，不得违反党纲党章及一切决议案之主张，必须绝对服从党部之决议及命令。在登记过程中，所有国民党员均要填交审查表，审查表中有关于政治信仰的栏目。根据陈果夫的指令，填表者要在这些栏目中回答到三民主义及共产主义的认识并加以区别，审查机关将以此来测验填表人的政治倾向，这是决定其登记与否的一项重要标准。然后审查机关派员开展调查，在调查基础上进行评审。凡发现有共产党嫌疑或亲共言行的，由军警部门配合，进行清除、缉拿、逮捕、关押直至杀害。通过这种手段，陈果夫不仅从各级国民党组织中清除出共产党也清除出国民党左派及异己分子。这样，孙中山所创建的国民党，从组织到成员，其性质都发生了质的变化。
陈果夫在全国主持清党运动和整理党务的同时，为了加强对国民党的控制和对共产党及其他党派的防范，决定对国民党组织部进行整顿和改组。在部下只设普通组织科、海外组织科、军人组织科、编审科、调查科、总务科等。其中尤以调查科最为重要，陈果夫将该科进行扩充，调进一些亲信，并由陈立夫任该科主任。陈果夫通过这次改组，把国民党组织部牢牢控制在手中，其中主要成员多为二陈派人物。
调查科的主要任务就是收集党内各种资料，及党员状况材料，打击和镇压共产党人及国民党内反蒋派系。
陈果夫通过清党，不仅捕杀了大量的共产党人，而且也对国民党其他异己势力采取逮捕、杀害，如改组派成员王乐平。唐有壬，政学系头目杨永泰等均被暗杀。而陈果夫正是在主持清党中发展了自己的势力，日益得到蒋介石的信任，在国民党中的地位也日益巩固和提高。1929年3月，国民党三全大会上，在蒋介石的帮助下，陈果夫当选为国民党执行委员会委员、三届一中全会被推为常委、组织部副部长，在此前当选为国民政府委员、监察院副院长。陈立夫也由一无名小卒跃为国民党中央执行委员，还当上了中央秘书长。二陈手下的曾养甫、余井塘、张道藩、程天放等都进入中央执行委员会，张厉生余井塘担任了组织部的秘书。二陈势力在国民党内扶摇直上，咄咄逼人。
据陈果夫的亲信庞镜塘在解放以后回忆：
“自1927年蒋介石发动‘四一二’大屠杀之后，国民党中央及各省市党部都组织有‘清党委员会’，以贯彻其彻底清除进步力量的阴谋策划。在中央方面，以中央执行委员会组织部为主，成立五个人的委员会，专任党内排除异己的勾当，除于‘四一二’在上海和各地实行搜查检举，进行大规模的大屠杀外，对党内具有进步思想或在某些表现上同情共产党，反对过蒋介石的成员都诬为‘反动分子’，多方进行搜查和检举，罗织‘叛党’的罪名，加以杀害或长期关押。例如在广州‘四一五’以后，杀害了萧楚女、熊雄、安体诚等。过了几年，还在天津捕杀了韩麟符。又长期关押黄埔军校第五、六期的学生多人，直到其自首或叛变革命以后才予以释放。在其他各省市，持续至一二年之久，还在多方进行迫害，必至置诸监狱而后已。就全国范围而论，被害的人数，竟至以数万计。
“在各省市清党委员会结束后，各省市党部改组为指导委员会或整理委员会，办理党员登记，重新确定党籍，以思想进步或被认为思想动摇的党员，多方予以刁难’，不使恢复党籍，或进一步施以迫害。……重则以绑匪和流氓的种种手段，进行暗杀，轻亦秘密关押，使其长期失掉自由。因而在这时期，各地的进步人士宣告失踪的时有所闻。”
“清党”虽然都是二陈的亲信在各地主持，但陈果夫、陈立夫总是不放心，担心出什么问题。兄弟俩常在全国巡视。1928年6月4日奉系军阀张作霖被日军炸死，东北局势开始紧张。在复杂而严峻的形势下，年仅27岁的张学良，在父辈们的辅佐下，沉着应变。他对父亲的死，秘而不宣。致使日军模不着头脑。接着他化装返沈，稳定奉系领导集团，掌握了东北的局势，然后宣布父亲身亡消息，并同时宣布继任奉天军务督办。日本帝国主义企图利用这次事件武装占领东北的阴谋归于失败。
这时日本派人鼓动张学良宣布东北独立。南京方面也与张学良取得联系，希望他和平归顺南京政府。张学良从民族利益出发，置日本帝国主义的威胁利诱于不顾，于1928年12月29日，毅然通电易帜，归属南京政府。至此，国民党政权获得了形式上的统一。
政权统一之后，蒋介石为了削弱国民党新军阀的军权，召开了编遣会议，决定把全国军权收归中央，遭到各派反对。蒋介石与各实力派矛盾由此激化，只能诉诸武力。国民党新军阀混战爆发了。
到了1930年初，蒋介石在与各派军阀混战中，大获全胜。就在这一片胜利喜悦之中，一场更大规模的军阀混战正在酝酿。
战争于1930年4月开始，由于这次大战，各方投入的兵力空前绝后，主战场在河南、山东、安徽、陕西等省，故此被称为中原大战。
中原大战以蒋介石的取胜，冯、阎、桂的失败而告终。10月，冯玉祥到石家庄同阎锡山会面，商定间将晋军改编交给徐永昌，冯将西北军交给鹿钟麟，他们二人出国暂避，实际均未出国。
这时蒋介石急忙要回师江南对付红军，他为善后问题的处理故意显示宽大，要冯、阁下野，将收拾华北残局的全权交给了张学良，对河南方面的军事也摆出一了百了，以政治和平解决的姿态。华北、东北归属国民党不久，陈果夫、陈立夫随即派人前往京津地区主持党务。
1929年夏，陈果夫赶到北平，亲自指导北平地区的“清党”。他担心北平归属不久，国民党势力不强，害怕共产党乘机插入，不得已，只好亲自跑去。北平的记者早已风闻陈果夫的到来，纷纷来到陈果夫下榻宾馆，想进行采访。但陈果夫却怕记者中有共党分子，又怕有些刁钻的记者问些问题使自己下不来台，便一概谢绝采访。但记者们并不死心。
一次，张学良请客，陈果夫身着长袍马褂信步走进餐厅，不料刚迈进大门，一群早已等候在那里的记者蜂拥而上，将陈果夫围在中间，陈果夫无法突围离去。而这时离人席的时间尚有十几分钟，陈果夫急得有点出汗了。忽然他灵机一动，采取先发制人的办法，满脸堆笑，不等记者提问题，他先问了起来，问那些记者在什么报馆工作，问报纸的发行情况，问编辑工作的情况，实在无话可问之时，便假装咳嗽。这样好不容易拖到了宴会人席时间，陈果夫立刻收起了笑脸，冷冰冰地抛下一句“对不起，我要人席”。便径自而去。事后，陈果夫为能逃过记者的发难而洋洋自得地说：“他们对我一无所得，而我反做了新闻记者的新闻记者。”
陈果夫意识到想维护蒋介石在中国的统治，就必须把国民党组织大权掌握在手。国共合作时期，共产党有许多得力人才，所以国民党组织内显得人才济济，如今清党后，不仅国民党中的共产党人被清洗掉，相当一部分国民党员也因深受共产党宣传的影响，而立场游离，已不能胜任反共的责任，国民党人才匾乏的问题便显得十分突出。因此，陈果夫认为，要完成清党任务，推行一党专制，必须培养一批新的国民党骨干分子。于是，陈果夫与戴季陶、丁惟汾等人商议，决定成立一所中央党务学校，以培养高级党务人才为宗旨，使之与培养军事人才的黄埔军校一样，成为国民党一文一武两个专门学校。’陈果夫等人商谈了党务学校的办学宗旨、方针及招生、师资、校址等问题，并拟出详细书面报告，交蒋介石审阅。蒋介石看了后，拍手叫绝，立即命令付诸行动。1927年5月，南京国民党中央会议正式决定在南京设立中央党务学校，直属国民党中央党部，蒋介石自任校长，戴季陶任教务主任，丁惟汾任训育主任，陈果夫任总务主任。蒋介石、戴季陶、丁惟汾等人只是挂名，真正负责人是陈果夫。
由于得到蒋介石的重视，所以该校创办时无论是经费还是资筹方面都得到很好的解决。陈果夫亲自参加招生录取工作，从当时2000多名报名者中，经过严格的口笔试录取了340名。
为了把这批学员培养成效忠于蒋介石、陈果夫的国民党党棍，陈果夫亲自为学校制订了“亲爱精诚”的校训，要求学员们亲爱团结、精诚一致，拥护蒋介石，形成国民党内以蒋陈为代表的新兴势力。
党务学校的教学内容分政治训练和军事训练两种，以培养全能人才。政治训练就是对学生宣传蒋介石的言论和戴季陶主义，通过这些反共教育，培养学生仇视共产党，仇视革命的情绪与精神。除此之外，还训练学生主持会议，控制会场，指定发言，公众演讲等多种技能，以适应将来从事各种反共工作的需要。