司馬遷祠墓始建于西晉永嘉四年（公元310年），距今已有近1700年。“夏陽太守殷濟，瞻仰遺文，慕其功德，遂建石室，立碑，樹柏。”又據(jù)縣志載：“水經注：子長墓有廟，廟前有碑。晉永嘉四年漢陽太守殷濟，瞻仰遺文，大其功德，遂建石室立碑樹柏。太史公曰：遷生龍門，是其墳虛所在矣�！钡奖彼尉缚邓哪曛亟▽媽m。以后，千余年來屢經修繕，增建。

　　祠的北側，斷崖壁立，高約一百公尺。在祠前憑高俯視：黃河繞其前芝水漾乎左，西枕梁山之崗，南臨千仞之祠院四周都是用磚砌起的數(shù)仞高的朵墻，遠瞻俯瞰，備極雄偉。院內有數(shù)十株參天古柏，再加上競芳花木，充分顯示司馬遷的偉大人格與萬代名香。

　　司馬遷的祖先，司馬遷在自序中說：“昌（高祖）生無澤（曾祖），無澤為漢市長。無澤生喜（祖），喜為五大夫，卒皆葬高門�！苯襻蜄|鄉(xiāng)有高門村，高門村南距祠墓約四華里有司馬遷先塋。

　　大規(guī)模擴建太史祠，是清康熙七年（公元1669年）。這次擴建由縣令翟世琪與芝川鄉(xiāng)老揚四可等二十人共同商議，在司馬坡上架了一座天橋，用車把南塬上的土拉到司馬祠前。沒有幾天，就填起堂基長9.6丈，寬5.6丈，把明堂填得又高又寬。為求鞏固又將堂基及右岸用灰磚三層，從外嚴加封裹�；�下左側溝澗，自東繞而前，也填溝數(shù)丈為神路，并用磚石砌成九十九層臺階，拾級而上，高入云表。

　　從建筑角度講，太史祠雖然建筑規(guī)模不大，形式氣派卻和司馬遷的人格、文章、事業(yè)一樣，超拔于群。它是依據(jù)山嶺的天然地形，不受中國建筑傳統(tǒng)對稱布局限制，經過精心擘劃，建筑成高峻挺拔、氣勢雄偉的太史祠，和周圍環(huán)境非常協(xié)調。據(jù)古建筑專家鑒定，這座宋代建筑對我們了解和研究中國古建筑的發(fā)展和演變以及地區(qū)建筑上的相互影響，提供了重要實物資料。太史祠墓不僅是我國文化史上的寶貴遺產，同時也是研究我國建筑史的一個有代表性的實物史料。