1887（明治20）年東京都に生まれる。陸軍大学の入試に3度失敗、4度目にやっと受かり、1918（大正８）年11月に卒業。42歳の1929（昭和4）年から4年間、侍従武官として昭和天皇に使えた。
その後、東京陸軍幼年学校長、陸軍省兵務局長、同人事局長などを歴任。陸軍内の派閥構想では一貫して中立を通した。
1945（昭和20）年、天皇の命で鈴木貫太郎が戦前最後の首相に就任し、阿南を陸軍大臣に就ける。鈴木内閣は、戦争継続に一丸となっている日本をソフトランディングさせるために天皇自ら働きかけて作られた終戦内閣であった。
阿南は御前会議の中、陸軍強硬派の代表として戦争継続を強く主張したといわれるが、これは陸軍強硬派に対する腹芸と見るべきである。
1945（昭和20）年8月15日正午、昭和天皇の玉音放送によってポツダム宣言に無条件受諾が伝えられる直前、陸相官邸で割腹自決した。
　大手出版社である講談社の現社長・野間佐和子の養子婿・惟道（昭和62年に急逝）は阿南の五男にあたる。
　右手に阿南家の墓を建立している。自分の墓には墓誌を刻み、己の生前を誇示している。