南阳市第一中学原址在南阳市书院街65号,是东晋永昌三年(公元323年)兴建的弥陀寺旧址(后人称东大寺),据南阳府志记载,“清康熙三十年(1691年),知府朱璘于东院设南阳书院为之府书,后废。“南阳书院”由此而名,这应是南阳地区最早的公办学校名称,学者百余人。1751年南阳知府庄有信建房改寺院为书院,时名“宛南书院”,学者三百余人。
清光绪二十九年(1903年),清廷颁布《奏定学堂章程》,宛南书院因诏“改书院为学堂”。清光绪三十二年(1906年)命名为“南阳府中学堂”,同年又定名为“宛南中学堂”。以上均为南阳府所创办。
民国元年(1912年),“宛南中学堂”与“南阳公学”合并,更名为“宛南第一中学堂”,属南阳县管,学校为旧学制,修业年限4年。1912年,教育部令将“学堂”改为“学校”。1914年,更名为“南阳中学校”。民国四年(1915年),被当时河南省政府命名为“河南省立南阳中学校”。1920年按河南著名学校顺序改称为“河南省立第五中学校”。1924年学校改三年制初级中学。1930年增设高中普通预科两班,每年招收高、初中各两个班,200名学生。
至抗日战争前夕,在南阳的八所中等学校中,除省立南阳中学外其余均为初级中学。1932年改高中预科为高中师范科。1933年高中师范科停招,重招高中。1934年(民国二十三年)学校复名为“河南省立南阳中学校”,高中师范部、高中部、初中部共有10个班。1937年全校高中、初中各6个班。抗战爆发后,学校辗转河南省内乡县张集镇,后又转至陕西歧山县周公庙继续办学,一直到1945年抗战胜利后,学校才又返回河南省南阳市东关书院街。这期间,1940年试办六年一贯制一个班;1941年三年制一个班,六年一贯制两个班;1944年,全部过渡为六年一贯制。解放前夕,当时国民党驻军长官王凌云挟裹部分学生南逃,1948年11月南阳解放,南阳人民政府成立,12月政府委派吴丽泉接手南中工作,学校获得新生。
1949年2月,学校恢复招生,增设一年制,二年制,三年制师范班,初中高中均为三年制。1954年学校更名为“河南省立南阳第一中学校”。1958年初,学校停招初中班,专设高中。1959年,学校更名为“河南省立南阳市第一高级中学校”被确立为省重点高中。1966年受当时“文化大革命”的影响,学校停课闹革命。1969年11月复课闹革命。学校更名为“南阳拖拉机厂配件厂‘五七’学校”,学校在文化大革命中有恢复为完全中学,学制由原来的高、初中各三年改为高、初中各二年。1971年学校更名为“南阳市第一中学校”。1978年学校再次被确认为省重点高中,初中由原来的二年制改为三年制,1981年高中二年制改为三年制,停招初中班。1983年学校只办三年制高中班。至此,学校才转变成全日制三年制普通高中。1985年学校在校学生一、二、三年级各6个班,1000余人。
1994年12月,南阳撤地设市,学校仍为“南阳市第一中学校”。2002年8月,南阳市一中于学校迁入新校区——南阳市建设东路1366号。2002年10月学校被评为市级示范性普通高中,继续招收学制三年高中班,三个年级共36个班,在校学生近3000人。2003年是南阳市第一中学校建校一百周年,在新校址举行百年庆典活动。2003年高考综合评比,位居全市重点高中第四名,被评为教学工作先进单位、培优先进学校。2004年年底,学校被评为省级示范性高中,2005年初被评为全国“精神文明建设工作先进单位”。2005年、2006年学校连续两届被民间评为“中百强中学”。