同年九月，魏帝曹芳不甘大权旁落，欲利用司马昭因伐蜀被召见的时候反击，夺取司马昭所指挥的部队攻击大将军司马师，但事情败露。司马师再次发动政变，逼迫郭太后废黜曹芳，改立高贵乡公曹髦为帝，操纵国政。

毋丘俭向来心在魏室，也与夏侯玄、李丰平素友好，二人被害本就令毋丘俭不安，同时亦因明帝的继承人被废而愤怒不已。感昔日明帝知遇之恩，开始谋划打倒专政的司马师。扬州刺史文钦也有兴曹之意。但毋丘俭始终犹豫不决，直到其身在洛阳朝廷为人质的长子毋丘甸的鼓励父亲起兵。其在信中委婉且勇敢地写道：“大人居方岳重任，国倾覆而晏然自守，将受四海之责也。”有子如此，毋丘俭怅然泪下，终于下定决心起兵反司马，为曹魏政权做拼死一搏。

正元二年（255年）正月，巨大的彗星划过东南的天空，拖着几十丈的尾巴砸向西北。天降吉兆，大魏可兴！毋丘俭和文钦非常高兴，制裁司马师的时候到了。为了增加自身的实力，毋丘俭潜使豫州，传信曾为曹爽心腹、夏侯玄好友的镇南将军诸葛诞，邀其共同起兵。但诸葛诞竟杀害使者，并将信件揭发给洛阳朝廷。兖州刺史邓艾亦然。计划既已泄露，洛阳必有反应。为了尽可能占据先机，魏镇东大将军毋丘俭、扬州刺史文钦决定提前举兵。二人调集大军辎重，将在屯驻淮南的大小将领、官吏悉数召集到寿春城内（安徽寿县），于城西筑坛，展示明元郭太后诏书（存疑），与诸将歃血盟誓，起兵勤王，讨伐司马师。毋丘俭留下老弱驻守寿春，亲率六万精锐渡过淮河，急速行军，深入中原六百里，意图速战速决，直抵洛阳。

寿春、合肥防线历来乃魏国首要军事重心，淮南大军为骁勇善战的老兵、精卒构成，一路破关拔城，势如破竹，但当征途进行一半时，在乐嘉遭遇守军顽强抵抗，邓艾已率泰山兵马日夜兼行，增援乐嘉，使得城防愈加坚固难克。毋丘俭强攻不得，加之补给线拉长，士卒连日奔袭，战斗疲乏，只得暂且休整，遂进驻项城（河南项县），整顿兵马，积累物资，构筑工事，计划对策。失去先手优势的毋丘俭，为了争取更多潜在盟友的支持，正式发布檄文，向魏国揭露司马师的十一条大罪布告天下，意在邀请各地诸侯盟师讨贼。然司马氏操纵国政多年，根基已稳，并控制了全国绝大多数的军队，慑于其骇人的实力和狠辣的作风，各地诸侯或观望不动，坐观其变，或倒向朝廷，对抗义军。有记载的、明确拉拢过的各诸侯（刺史、将军）中，征西将军郭淮于当年病逝，未获书信。接任的征西将军陈泰、雍州刺史王经虽同样心存魏室，分掌关西精锐兵团，均与北伐的蜀将姜维激战正酣（狄道战役，魏军死伤数万），无力表态。兖州刺史邓艾先前就斩使告密，各率本部兵马攻击淮军，向司马师表忠。毋丘俭能依靠的，只有手里这支六万人的淮南劲旅。但形势是严峻的，敌军将领中不乏邓艾、王基等深谙兵法之人，起兵进程步步维艰。