南阳这一地名，由来已久。最早出现于战国时期，指位于“成周”(周的国都洛阳)之南，汉水之阳的广大地区。她“枕伏牛而蹬江汉，襟三山而带群湖”，北控汝洛，南蔽荆楚，西通关陕，东连江淮，是中国古代重要的交通枢纽和军事要地。
早在四五十万年前，就有人类在南阳这块美丽而富饶的大地上繁衍生息。约在五六千年前，这里就出现了村落和房屋，产生了农业、畜牧业和制陶等手工业。从过去发现的新石器时代人类生产生活的资料表明，南阳是此时期黄河流域文化分布的南界，也是长江流域文化分布的北界。
夏商王朝时期，南阳是夏商王朝经营南方和南方诸国北进中原的捷径，尧曾战于丹水之浦以服南蛮，舜帝其子曾封于南阳。
西周时期，南阳属荆州，因在周的南部，被周人称为“周土”。境内方国林立，其中有申、吕、姬、曾、唐、甫、邓、鄂、谢、蓼、鄀、楚、郦等国。为巩固周王室对南方的统治，周宣王派其舅申伯“于邑于谢”“南土是保”。
春秋时期，周平王虽然调军队戌申、戌甫，但挡不住楚国日益强大的步伐。楚灭申、唐、邓等国后，在南阳市设宛邑，南阳称宛就是从春秋开始的。这个时期开始使用铁器，产生了冶铁、蚕丝等手工业和商业。
战国时期，秦将白起攻楚占宛，南阳归秦，秦昭襄王35年(即公元前272年)设南阳郡，南阳名字自此始。这个时期，南阳的冶铁、蚕丝等手工业和商业进一步发展壮大，特别是铸铜业闻名全国，工艺水平较高。
秦朝时期，南阳为全国36郡之一，仍称为南阳郡。当时的面积，除现今南阳市外，还有河南省的鲁山、叶县、舞阳、滦川的一部分和湖北的随州、枣阳一带。
汉代，南阳仍置南阳郡，经济和文化发展达到历史上的鼎盛时期。西汉时，全国划为十三部，南阳归荆州部，当时南阳郡辖36县，其中22县在今市内。如宛城(今卧龙、宛城)、杜衍(今南阳市西一带)、淯阳(今南英庄一带)、西鄂(今石桥镇西一带)、雉阳(南召县一带)、安众(今青华杨官寺一带)、新野(今新野县)、棘阳(今新野县高庙一带)、朝阳(今新野王庄乡一带)、穰(今邓州市东南一带)、涅阳(邓州市北、镇平南一带)、冠军(今邓州市张村乡一带)、乐城(今邓州王良乡一带)、博望(今方城县博望镇一带)、堵阳(今方城县一带)、平氏(今桐柏境内)、复阳(今桐柏吴城一带)、山都(今邓州构林一带)、郦(今内乡赵店一带)、博山(今淅川县丹江水库区)、析(今西峡城东一带)、丹水(今淅川荆关一带)，其他10多县在今河南平顶山和湖北随州等地。东汉时，南阳郡仍属荆州部，辖县和西汉大体相同，但去掉了杜衍、乐城、山都等县，新置南乡、成都、襄乡三县，改博山为顺阳，改舂陵为章陵、陕西的山阳县划归南阳郡。期间，光武帝刘秀发迹于南阳，成就帝业，建都洛阳，定宛城为陪都，又称“南都”。刘秀和其主要将领(二十八宿)大部都出生南阳一带，故南阳又称“帝乡”。
三国时期，南阳为魏国所有，隶属荆州。
晋代，南阳曾为南阳国，辖十四县，定都宛城。
隋朝，开皇三年（583年）废南阳郡为邓州，大业三年（607年）复置南阳郡，领八县，范围大大缩小。
唐朝，天下设为十道，南阳属山南道管辖。唐初称邓州，玄宗天宝元年(742年)改邓州为南阳郡，肃宗乾元元年(758年)又改郡称州。
宋朝，南阳归京西南路管辖，下设唐、邓二州，州下设县。邓州辖穰、南阳、内乡、淅川、顺阳五县，唐州辖泌阳、湖阳、桐柏、方城等县。
元朝，将原南阳郡改为南阳府，属河南江北行中书省，辖五州，其三在今市内：南阳府自领镇平、南阳二县；邓州领内乡、顺阳、淅川、新野、栾川五县；唐州领泌阳、湖阳、桐柏、方城等县。其他二州辖临汝、伊川、郏县、宝丰、鲁山、叶县、舞阳、卢氏、栾川等县。其间曾将淅川、顺阳合并到内乡。
明朝，南阳府属河南布政司汝南道，领二州(邓州、裕州)十一县(叶县、舞阳、唐县、新野、桐柏、内乡、宛县、镇平、泌阳、南召、淅川)。朱元璋第二十三子唐定王朱柽在此土封地，永乐年间在此建造了规模宏大的唐王府，成化年间又建造了9座郡王府，当时的南阳在建筑、园林、雕塑、绘画、书法等方面在全国处于领先地位。
清朝，沿用明制，南阳府仍辖二州十一县，不过将邓州改为邓县，将裕州改为方城县，十一县分别为宛县、唐县、叶县、新野、桐柏、内乡、镇平、南召、泌阳、淅川、舞阳)，改淅川县为淅川厅，后又升淅川厅为淅川直隶厅。这个时期，建筑业尤其发达，武侯祠、山陕会馆等巍巍壮观，富丽堂皇；陆路驿道与水路码头相接，成为北京通往湖广和云贵川的交通要道，有“南船北马”之称；山、陕、江淅商贾云集，工商业兴旺发达，是豫西南的经济中心。光绪十年，镇平县开始生产丝绸，并远销欧洲及东南亚各国。
民国时期，河南设十一个行政区，南阳为第六行政区，辖十三个县：南阳县、南召、唐河、镇平、方城、邓县、内乡、桐柏、新野、淅川、泌阳、叶县、舞阳县。
新中国成立后，叶县、舞阳从南阳行政公署划走，析出西峡县、南阳市，仍辖十三个县市，即南阳市、南召、方城、泌阳、唐河、新野、桐柏、镇平、淅川、邓县、内乡、西峡、南阳县。1966年，南阳行政公署仍辖十三县市，但划走泌阳县，析出社旗县，这十三个县市分别为南阳市、南阳县、南召县、方城县、唐河县、新野县、桐柏县、邓县、淅川县、内乡县、西峡县、镇平县、社旗县。改革开放后，南阳撤地设市，市区设宛城区、卧龙区，并将邓县改为邓州市（县级市）。2013年，邓州市归河南省直管。现在的南阳市辖十二个县区，它们分别是卧龙区、宛城区、南召县、方城县、唐河县、新野县、桐柏县、淅川县、西峡县、镇平县、内乡县、社旗县。
南阳自古雄踞于中原大地，上承天时之润泽，下秉山川之恩惠，物华天宝，人杰地灵，气候温和，物产丰富，是地球上最适应人类生活居住的城市之一。今天的南阳人民正以满腔的热忱，建设更加美好家园。