百泉書(shū)院宋元時(shí)稱為太極書(shū)院，位于百泉湖東岸。創(chuàng)建時(shí)間為宋，到了元時(shí)，有了很大的發(fā)展，其中關(guān)鍵人物是姚樞，姚樞曾任燕京（北京）行臺(tái)郎中，1141年辭官來(lái)輝隱居，耕荒種田，耕讀自樂(lè)，自刊《小學(xué)》《論孟》等書(shū)，散之四方，以惠學(xué)者。慕姚樞之名，1250年，著名學(xué)者許衡、竇默也從河內(nèi)（河南沁陽(yáng)）、肥鄉(xiāng)（河北大名）來(lái)到百泉。他么在太極書(shū)院內(nèi)，經(jīng)傳、子史、禮樂(lè)、名物、星歷、兵刑、食貨、水利無(wú)所不授。不論學(xué)生出身貴賤、智商高低，他們都能因人施教，使求學(xué)者皆有所得。百泉彈丸之地，遂成理學(xué)淵藪。一時(shí)擔(dān)簦負(fù)芨者，絡(luò)繹于道，使得太極書(shū)院與朱熹創(chuàng)辦的鹿洞書(shū)院，陸就淵創(chuàng)辦的鵝湖書(shū)院并駕齊驅(qū)。因當(dāng)時(shí)的許多名臣和學(xué)者都曾受學(xué)于此，故后人在評(píng)說(shuō)理學(xué)的發(fā)展時(shí)有“宋興伊洛，元大蘇門”（意即理學(xué)興起于宋代的洛陽(yáng)，發(fā)揚(yáng)光大在元朝的輝縣蘇門山）之說(shuō)。

姚樞等人離開(kāi)百泉后，太級(jí)書(shū)院漸漸蕭落。到了明代成化面間，沉寂了220余年的太級(jí)書(shū)院又得以復(fù)興。河南提學(xué)僉事（省級(jí)主管教育的官員）吳伯通、知府張謙在太級(jí)書(shū)院舊址上，又建起了百泉書(shū)院。

據(jù)當(dāng)時(shí)的參政大學(xué)士劉建《百泉書(shū)院記》載：“（百泉書(shū)院）于成化庚子（1480年）4月始建，至壬寅（1482年）3月竣工，歷時(shí)兩年。凡為屋三重（即三進(jìn)院），為楹六十有二，匾其前曰‘先賢祠’，內(nèi)祀周敦頤、邵雍、司馬光、程顥、程頤、張載、朱熹、張栻、呂東萊、許衡10人，另以姚樞、竇默二人配享；中曰‘講道堂’，左右為齋凡八（即八排房）；后曰‘主敬堂’，左右為齋凡四（即四排房），合匾之曰‘百泉書(shū)院’”。由此可見(jiàn)，百泉書(shū)院的規(guī)模在當(dāng)時(shí)已經(jīng)非常宏大了。

明崇禎15年（1642年），開(kāi)封遭李自成軍隊(duì)圍攻，決水淹城，省貢院遂移至百泉院。自清順治2年（1645年）至清順治14年（1657年），共歷6科，后改為科舉考試的地方。

清順治、康熙二朝，是百泉書(shū)院的又一個(gè)鼎盛時(shí)期。順治7年（1650年），一代大儒孫奇逢自河北來(lái)輝，在百泉書(shū)院主講“夏峰之學(xué)”，四方學(xué)者，紛至沓來(lái)，使得百泉書(shū)院與襄城老來(lái)章主持的嵩陽(yáng)書(shū)院、柘城竇克勤主持的朱陽(yáng)書(shū)院三足鼎立，馳名中州。李來(lái)章是孫奇逢的弟子，竇克勤又拜孫奇逢的弟子耿介為師傳習(xí)百泉之學(xué)，所以嵩陽(yáng)書(shū)院、朱陽(yáng)書(shū)院及李來(lái)章后創(chuàng)的南陽(yáng)書(shū)院、紫云書(shū)院及廣東連山書(shū)院等，都已是百泉之學(xué)的一傳、再傳之學(xué)。百泉書(shū)院不僅在中州獨(dú)占鰲頭，還同浙江的姚江書(shū)院、陜西的磋中書(shū)院一起，站在全國(guó)諸多書(shū)院的前列。

清乾隆7年，百泉書(shū)院又行重修，規(guī)模 較前更為恢弘。乾隆15年（1750年），乾隆皇帝巡游百泉，將百泉書(shū)院改為行宮。道光6年（1826年），知縣周際華立《學(xué)約十條》（立學(xué)、立教、立志、立身、立德、立功、立言、立名、立城），將書(shū)院由百泉湖畔移至輝縣城內(nèi)。光緒末年，西風(fēng)東漸，學(xué)堂勃興，百泉書(shū)院停辦（其舊址在今輝縣城內(nèi)書(shū)院街）