毛泽东在湖南的工作以及在大会上的表现，很受孙中山和国民党人的赏识和注意。在选举中央执行委员和候补中央执行委员时，毛泽东被顺利地选为候补中央执行委员。
大会闭幕后，国民党成立了中央党部，决定派遣中央执行委员分赴上海、北京、汉口等特别区，组织执行部，以指导和监督当地的党务工作。在中央党部的会议上，毛泽东对中央执行委员会如何指导下层党部的工作，提出了四项议案：一、“经费断不宜只用于中央与省之两个高级党部（空洞的党 部）”，而应注重于市县乃至区的“补助经费”，因他们“为本党指挥党员行动最扼要的机关，若这两级党部没有力量，必至全党失去了力量”。二、本年内各省的党部宜兼理所在地之市党部，中央及各地执行部宜兼理所在区之特别区党部。三、“宜以全力发展下级党部，不宜将党里人才尽聚在最高党部”， “中央及各执行部到实际组织时宜看事实上的需要”。四、本年内地方组织宜分别轻重缓急，定一计划。毛泽东所提议案，除第二项外，其余三项都由会议提交预算委员会和中央执委会参考。
在上海执行部身兼数职
1924年2 月中旬，毛泽东由广州来到上海，参加国民党上海执行部工作。上海执行部由胡汉民、汪精卫和叶楚伧组成常务委员会，而实际负责人是组织部长胡汉民。作为胡汉民秘书的毛泽东，其职责是“协助部长，办理本部事务”。毛泽东不仅是组织部秘书，还兼任文书科秘书，在文书科主任邵元冲未到任前，代理文书科主任一职。
胡汉民是国民党元老，孙中山对他又格外倚重，国民党改组后的许多重大事情，都离不开胡汉民的参与。因此，组织部的实际工作也就落到了毛泽东的肩上，这从胡汉民给毛泽东的一封信中可见一斑。顷得觉生先生来书，要取《宣言》十份，《党章》十份及《民国日报特刊》一份，入党表、登记表各四十份，志愿书二十份，请即交其来人为幸！此上润之我兄。
信中所说“觉生”乃是国民党元老居正。当时的胡汉民已经45岁，毛泽东是31岁，一句“润之我兄”可见胡汉民对其器重的程度。
上海执行部成立之初，主要的工作有两项，一是组织发展，二是平民教育。在执行部的第二次会议上，成立了平民教育委员会，毛泽东是9名委员之一，并是常务委员。
毛泽东身兼数职，既要做组织部和文书科的工作，又要处理平民教育委员会的事情。这样超负荷的工作将他累倒了，只得给平民教育委员会去信说： “弟因脑病日增，组织部及秘书处事务又繁，平教委 员会常委势难胜任，恳予准许辞职。”
国民党一大后，执行部发出通告，要求凡是在国民党一大之前加入国民党者，“无论何人，均须重新登记”。组织部秘书毛泽东在做这项工作时，首先碰到了一个“硬钉子”，这便是国民党元老谢持。此公早年参加同盟会，筹划过成都、重庆起义，谋 刺过袁世凯，曾担任过大元帅府参议、代理秘书长，时任中央监察委员，资格可谓老矣，职务可谓高矣。 谢持对重新登记很不理解，气冲冲地来到执行部说： “我从同盟会开始，革命几十年还要填表？可不可免填？”在得到否定的回答后，拂袖而去。毛泽东知道后，让人给谢持送去表格，并耐心地做工作，以求 得谢持的理解。最终谢持也没有再固执己见，按期填好了表。这样，其他老资格的国民党员也都一一如期填好了表。
上海执行部的三个常委中胡汉民、汪精卫常在广州，叶楚伧可算是最高领导人。叶虽仅比毛泽东长6岁，可也是国民党元老。他对毛泽东的工作一直持异议，对共产党员一直持戒备心理。在这样的状态下， 毛泽东的工作极为艰难，只得于7月辞去组织部秘书，推荐共产党员张廷灏继任。
叶楚伧早就想把共产党排挤出执行部，8月1日， 他在南方大学召开会议，专门研究“处置共产党分子问题”，当场遭到许多人的反对。第二天，一些国民党员闯入执行部，殴打共产党员邵力子。事件发生后，叶楚伧处理不公。毛泽东与恽代英、施存统、沈泽民联名上书孙中山，控告叶楚伧“主持不力，迹近纵容”。
毛泽东与叶楚伧的矛盾，在执行部几乎人人皆知。毛泽东在上海执行部困难重重，就是鞠躬尽瘁，也是吃力不讨好，兼之劳累成疾，便于12月请假回湖南老家韶山了。
