清朝時，他於1884年在長沙參加軍隊，參與鎮壓義和團運動，得到皇家的恩寵，逐步升官，在軍中的聲望也上升。後曾進京為御前護衛。1895年袁世凱組建 新軍，張勛曾任管帶、總兵、中軍官等職。溥儀即位後任江南提督。辛亥革命時，在南京鎮壓革命黨人。後敗率領巡防營退到蘇北徐州。被清政府授為江蘇巡撫兼署 兩江總督、南洋大臣。

民國後，所部改稱武衛前軍，駐兗州。他仍忠於前清王朝，軍隊保留髮辮，俗稱辮子軍。他幫助時任中華民國總統的袁世凱鎮壓孫中山二次革命，率軍攻下南京，縱 兵殺掠。後被袁任為江蘇督軍，繼轉任長江巡閱使，移駐徐州，授銜為定武上將軍，所統辮子軍又稱定武軍。袁世凱稱帝後被授一等公，但內心仍一意維護清廷。

1917年，中國國內形勢不穩，大總統黎元洪和國務總理段祺瑞之間發生「府院之爭」，爭相拉攏他進京調停，於是他趁機聯合康有為等保皇黨人率領軍隊攻入北 京，迎清朝末代皇帝溥儀復位，重新建立王政，自封議政大臣兼直隸總督、北洋大臣。史稱「張勳復辟」。但此政權11天後即遭段祺瑞的「討逆軍」討伐並很快被 推翻，逃入荷蘭使館。溥儀退位，他逃到天津租界地區。

1923年9月11日於天津病死。