1866年（慶応2年）3月松江藩の下級武士（足軽）奥村仙三郎の次男として生まれる。
位階は正二位。勲等は勲一等。爵位は男爵。旧姓は奥村。幼名は源之丞。号は克堂。
家庭が貧しかった為中学を途中で辞めるざるおえない程だった。
1884年（明治17年）年司法省法学校が官費で生徒を募集することを知り、叔父に30円を借り松江を出た。
高等学校・大学でも常に首席であり、1892年（明治25年）7月に帝国大学法科を98点5分という成績を残し首席で卒業し、その年大蔵省へ入省し、主税局長などを努めた。

1906年（明治39年）1月には第一次西園寺内閣の阪谷芳郎大蔵大臣の下の大蔵次官となる。
1911年（明治44年）8月に大蔵次官をやめ貴族院勅選議員となる。
その後大蔵大臣、内務大臣などを就任し、1926年（大正15年）に加藤首相死去もあり第25代内閣総理大臣に任命された。
1927年（昭和2年）4月に内閣を総辞職するが、1930年（昭和5年）ロンドン海軍軍縮会議の首席全権をつとめた。
1931年（昭和6年）4月濱口首相の容体悪化退陣のあとを受けて2度目の28代内閣総理大臣に就任する。
日米開戦に反対し、開戦後は和平派の立場をとった。1949年（昭和24年）11月20日に静岡県伊東市で狭心症により死去83歳。