早在五六千年前，華夏、東夷兩族的祖先就在這里繁衍生息，創造人類早期的文明。炎帝、黃帝、少昊徙都于此。曲阜，商為奄國都，周為魯國都，公元前249年楚滅魯始設魯縣，公元584年定縣名為汶陽，公元596年初定縣名為曲阜。因“魯城中有阜，逶曲長七八里”而得名。627年并入泗水，634年恢復曲阜建制，1012年更名為仙源，1129年又恢復曲阜縣名。1945年底，曲阜與泗水并稱曲泗縣，1946年春，曲、泗分治。1958年，將滋陽并入曲阜，1962年初，仍按兩縣原行政區域分治。1986年6月，經國務院批準，撤銷曲阜縣，設立曲阜市。
截至2024年，曲阜市轄4個街道、8個鎮：魯城街道、書院街道、時莊街道、小雪街道、吳村鎮、姚村鎮、陵城鎮、尼山鎮、息陬鎮、王莊鎮、石門山鎮、防山鎮。36個社區，292個行政村，常住人口61.53萬人。
“曲阜”之名最早見于《禮記》，東漢應劭解釋道：“魯城中有阜，委曲長七、八里，故名曲阜”。
早在上古時代，人類祖先就在曲阜一帶生息勞作，開拓了早期的物質文明，文物發掘中發現大量公元前4300--前2400年間的“大汶口文化”和‘龍山文化’遺跡。據古籍記載，在四、五千年前，這里即是炎帝神農氏營都聚居的“大庭氏之墟”。
大約公元前二十七世紀末葉，中華民族的‘人文初祖軒轅黃帝誕生于曲阜壽丘。繼黃帝之后，少昊曾在曲阜營建都城。相傳少昊在位84歲，壽百歲，崩葬曲阜城東北壽丘云陽山，與二帝三王(堯、舜、禹、湯、文、武)、周公、孔子并稱萬世享祀。
中國古史相傳的“三皇五帝”中，有四人曾在曲阜留下了活動的蹤跡，開創了發達的古代文明。公元前二十一世紀前后，曲阜屬上古堯舜時代九州之一的徐州。公元前十六世紀后的商代，曲阜為奄國國都，并一度成為商王朝的都城。公元前1046年，西周武王伐紂滅商，武王將其胞弟、王國宰輔周公旦封于故奄地曲阜，立國為“魯”。
公元前249年楚國滅魯，始設魯縣，596年初定縣名為曲阜。
秦始皇二十四年（公元前223年），秦滅楚，魯縣入于秦。秦始皇二十六年（公元前221年）統一中國，始實行郡縣制，魯為薛郡，郡治在曲阜。
漢景帝三年（公元前154年），帝劉啟改封皇子、淮南王劉余為魯王，以魯縣為國都。
隋文帝開皇四年（584年），詔改魯縣為“汶陽”，自魯國滅亡改為魯縣，至是年止，曲阜以“魯”為縣名，歷時長達833年。
隋開皇十六年（598年），詔改縣名為“曲阜”，“曲阜”一名，一直沿用至今。
宋真宗時曾改名為仙源縣。仙源縣城是曲阜有史以來繼周、漢魯城之后的第三座古城。宋高宗建炎二年（1129年），金兵南下，仙源縣入金朝，恢復曲阜縣舊名。
明正德六年（1511年），河北劉六、劉七率領的農民起義軍“破曲阜、焚官寺民居數百，縣治為墟”。明武宗朱厚照詔令山東巡撫于魯故城西南隅以孔廟為中心重筑新城，即現存明故城。
清代，曲阜地方建制與明代基本相同。
民國十七年（1928年），直接隸屬山東省。民國二十九年（1940年），屬兗濟道。民國三十四年（1945年），與泗水并成為曲泗縣。民國三十五年（1946年），曲泗分治。民國三十七年（1948年），隸屬魯中南行政區第四專區，后改稱尼山專區和滕縣專區。同年，曲阜解放。
新中國：1949年，曲阜隸屬于滕縣專區（專區駐地滕州市）。1953年，滕縣專區搬遷到濟寧，曲阜改屬濟寧專區。1958年，滋陽并入曲阜，1962年，曲、滋分治，恢復原建制。1983年，濟寧地區改為省轄市，曲阜仍隸屬濟寧市。1986年6月，改為縣級市，始稱曲阜市，屬濟寧市代管。