中國自古注重忠孝節義的德行，民間遇有孝子或節婦之人，每每報請地方官府轉呈朝廷，准予建坊旌表。康熙元年（1662）朝廷諭示：「旌表節義，給銀建坊，民間往往視為具文，未曾建立，恐日久仍至泯沒，不能使民有所觀感。著　於地方公所，設立祠宇，設牌位於祠中祭祀，用闡幽光而垂永久」，此為節孝祠興建的由來。

同治12年（1873），彰化縣學白沙書院山長蔡德芳與拔貢生林淵源遍訪臺灣中部地區，北至牛罵頭（今臺中清水），東至東勢角（今臺中東勢），南至沙連（今南投竹山、鹿谷）及北斗，西至西螺及海豐布嶼（今雲林崙背及二崙一帶），採集節婦名錄共一百二十位。

光緒12年（1886）彰化貢生吳德功又與白沙書院山長丁壽泉、訓導劉鳳翔，再採得節孝婦名錄共一百六十名。同年，臺灣知府程起鶚、陳文騄及彰化知縣李嘉棠，奏請禮部准予建祠，山長蔡德芳和吳德功、主事吳鴻藻、職員呂賡虞等人隨即進行倡捐建祠活動。

光緒13年（1887）准予立祠，正式編入官方祀典；光緒14年（1888），節孝祠落成，其地點位在彰化城隍廟的東側，為一獨立的祠院。落成之後不久，乙未戰爭爆發，抗日義軍在彰化八卦山和日軍發生激烈戰役，義軍死傷慘重，彰化城陷，節孝祠亦遭戰火波及而嚴重受損，「祠中木龕、前後門扇，蕩然一空」。幸賴新建不久的節孝祠「祠宇堅牢」，至大正八年（1919），「幾經風雨剝蝕，廟貌依然無恙也」。

明治33年（1900）時，曾禮請彰化廳長鬚田綱鑑將縣志內記載之節孝，以及同治、光緒朝請旌之節孝名錄，重新登錄於牌位，並同時整修前殿簷柱，春秋二祭時，由臺中廳長賜祭粢金五圓。大正8年，吳德功曾將節孝名錄加以輯錄，成《彰化節孝冊》一書。

大正12年（1923），彰化市因實施都市計劃，拓寬道路而使得節孝祠易地重建，從原來城隍廟東側僑遷至現址，計工費金八千元，新祠多襲用舊材，並由鹿港貢生蔡穀仁（蔡德芳之子）立「重建中部節孝祠碑記」記之。

光復後，節孝祠不再接受入祀，又因乏人管理，以致逐漸破敗，至民國73年（1984）始由政府編列為第三級古蹟，開始進行調查、保護措施。