1916年3月袁世凯被迫取消帝制，改为共和，邀请段出山任国务总理。袁死后，段继续任总理。他是北洋政府派系内的皖系领袖。1917年，与大总统黎元洪之间因参与第一次世界大战问题引发府院之争，引发由张勋领导的溥仪复辟。复辟历时十二日后即被段于天津马厂誓师镇压。在继任的冯国璋总统任期内，就解决南北分裂，统一中国的方式问题，与冯发生第二次府院之争，于1917年11月22日辞职。

1918年3月22日复职。同年10月10日，冯国璋总统的任期届满，安福国会选举徐世昌为大总统。段与冯约定共同下野。段祺瑞通过安福系继续在幕后操纵政权。1920年7月在直皖战争中失败，退隐天津。1924年10月23日冯玉祥发动北京政变，推翻大总统曹锟，先邀请孙中山北上，后与奉系妥协，请段祺瑞出山，任中华民国临时政府的临时执政(国家元首)。

段祺瑞老照片

1925年4月24日，段正式下取消法统令，废除中华民国第一届国会，由临时参政院替代之。1926年3月18日发生了政府镇压北京学生运动的三·一八惨案，同年4月9日被冯玉祥驱逐下台，退居天津日租界当寓公，潜心佛学，自号“正道居士”。1931年九一八事变后，拒绝与日本人往来，颇有操守。1933年2月段祺瑞移居上海。

段祺瑞之死

1935年被任命为国民政府委员，但没有就职。1936年11月2日在上海病逝，葬于万安公墓，享年72岁。段临终遗言有“八勿”，即：“勿因我见而轻起政争，勿尚空谈而不顾实践，勿兴不急之务而浪用民财，勿信过激言行之说而自摇邦本。讲外交者，勿忘巩固国防;司教育者，勿忘保存国粹;治家者，勿弃国有之礼教;求学者，勿鹜时尚之纷华。”