12月5日，蒋先云毅然领导发动水口山矿工工人大罢工。自罢工之日起，矿务局局长赵铭鼎采取假谈判、金钱拉拢、恐吓、暗杀等手段，破坏工人罢工。蒋先云在工人群众的掩护下，始终不动摇的指挥革命斗争。矿务局最终慑于工人罢工的烈火，答复工人提出的十八条要求。罢工斗争取得了彻底的胜利。

 

次年6月，经中共湘区委员会批准，水口山矿正式成立党团组织，蒋先云任党团支部书记。当时中国劳动组合书记部主任邓中夏评论说：“中国矿山虽多，有全部组织的，只有江西之安源以及湖南之水口山两处，水口山铅锌矿罢工，其雄壮不亚于安源。”

 

1924年5月，蒋先云考入黄埔军校第一期，任中共黄埔军校特别支部书记。是金子在哪都会发光，蒋先云的优秀，让他很快在学校有了名望。蒋先云同陈赓、李芝龙组织“血花社”对抗国民党右派的“孙文主义学会”。学习期间，蒋介石赏识蒋先云，认为蒋先云是他的“最得意的门生”“奇才”。周恩来赞扬蒋先云是“军校的高材生”，“是个将才”。蒋先云、陈赓、贺衷寒在军校被同学们称为黄埔三杰。

 

军校毕业后，蒋先云留校任蒋介石的秘书，在政治部主任周恩来的指导下。与蒋介石的“第一只手”王柏龄进行针锋相对的斗争。

 

1925年，蒋先云随周恩来参加第一次东征讨伐陈炯明，6月又随周恩来回师广州平定杨、刘叛乱。

 

10月12日，第二次东征，攻打惠州，蒋先云任民国民革命军第1军3师7团党代表，在他率领的敢死队的攻击下，最终歼灭陈炯明守在惠州的精锐部队。