薩摩藩士の息子として生まれ、戊辰戦争に従軍した後、昌平黌、開成所を経て海軍兵学寮で学び、1877年に海軍少尉に任官。1891年に海軍大臣官房主事に就任し、海軍参謀機関の独立を実現させた。1893年に海軍省主事に就任し、1895年には海軍少将として軍務局長に就任。日清戦争では実質上海軍機務を取り仕切って「権兵衛大臣」と呼ばれた[7]。1898年に海軍中将に昇進し、海軍次官を経て、第2次山縣内閣に海軍大臣として入閣して以降、第4次伊藤内閣、第1次桂内閣でも海軍大臣を務め、日露戦争の難局を突破した[7]。同時期に海軍大将に昇進し、日露戦争後には伯爵位を与えられた。1913年の大正政変の後、立憲政友会と手を結んで組閣し、第16代内閣総理大臣に就任。軍部大臣現役武官制の廃止などの改革にあたったが、翌1914年にはシーメンス事件が発覚し、引責辞任。1923年に再度組閣し、第22代内閣総理大臣に就任した