临武古属楚地，战国时期设临武邑。汉高祖五年（公元前202）置县，《水经注》记载：县侧武溪东，因曰临武县。史志记载：“楚南部邑之最古者，莫如临武。”
    新始建国元年（公元9），改名大武。东汉建武元年（25），复称临武。隋开皇九年（589），南平（今蓝山县）并入临武。唐咸亨二年（671），南平从临武析出。武则天如意元年（692）,更名隆武。唐中宗神龙元年（705），复名临武。五代后晋天福四年（939），临武并入桂阳监，南宋绍兴十一年（1141），复置临武县。明崇祯十二年（1639），划临武及桂阳各一部分，新设嘉禾县。1949年12月1日，临武解放，属郴县专署。1952年11月，撤郴县专署，设湘南行政公署，临武属湘南行署。1954年7月，湘南行署撤销，临武复归郴县专署管辖。1959年3月，临武并入宜章。1961年7月，临武县恢复建制，隶属郴州行署（郴州市）至今。