夏、商、西周时期，平邑县北部为颛臾国，南部商代属倪国、西周属邾国地。春秋时期为鲁国大夫季平子的食邑，北部仍为颛臾国，余之分属鲁国之武城、东阳、邱舆、卞等邑。战国时，先属费国、鲁国，后属齐国。秦朝属薛郡。西汉置平邑侯国，境内置南武阳县、南城县，分属兖州泰山郡、徐州东海郡，并一度置平邑侯国、南城侯国。新莽时，废南城侯国复置南城县，废平邑侯国和南武阳县改置桓宣县。东汉撤桓宣县复称南武阳县。三国、两晋，今县境均分属南城县、南武阳县。南朝宋改南武阳县为武阳县。北齐时，撤南城县并入武阳县。

隋开皇十八年（598年），改武阳县为颛臾县。唐贞观元年（627年），撤颛臾县并入费县。此后历经五代十国、宋、元、明、清，至1939年（民国二十八年），今平邑县境除西南、西部少数村庄原分属滕县、泗水县外，均属费县所辖。1939年7月，在康阜庄（今属岐山乡）成立费县联合办事处。1940年2月，在大夫宁村（今属保太乡）成立费县抗日民主政府。1940年6月，中共山东分局根据抗日斗争需要，以费县境内西部滋（阳）临（沂）公路线段为界，路北置费北县，路南置费南县。费北县政府机构始称费北行署。1942年5月，改为费北县抗日民主政府。同年7月，析费南县南境（今平邑县庞庄、临涧、山阴、白彦、魏庄一带）和滕县东境部分地区建置费滕边办事处，又称鲁南实验县。同年11月，析费县天宝、由吾2个区建置费西办事处，又称天宝山办事处。1943年10月撤销，其辖区分别划归费南县和费滕峄边办事处（1944年改建双山县，1946年4月更名麓水县，1950年撤销，其辖区一部划归白彦县）。同年11月撤销，其天宝区复归费南县，由吾区划归温河县。同年12月，费南县改称费县，隶属鲁南专署。1944年8月隶属鲁南行署第一专署。1945年8月，改称费北县政府，驻地在卞桥大、小公馆（村）一带，隶属鲁中行署。费南县抗日民主政府，驻地在郑城、常庄、流峪一带，隶属鲁南专署。1946年1月，撤销费北县、费东县，合置蒙山县。县人民政府先驻上冶（今属费县），后驻西荆埠。1946年4月16日，费县改称平邑县，隶属鲁南行署第一专署。1947年8月，析平邑县的山阴、苗庄、白彦3个区与邹县、滕县的部分地区建置白彦县。1948年7月，改属鲁中南行署第四专署。

1949年7月，隶属滕县专署。1952年3月，蒙山县撤销，其西部地区划归平邑县。1953年7月，改属临沂专区。1953年8月，白彦县撤销，其原白彦、山阴、临涧、苗庄等区复归平邑县。至今平邑县辖平邑街道1个街道、丰阳、流峪、卞桥、白彦、铜石、仲村、郑城、临涧、保太、地方、温水、武台、柏林13个镇。