比干是有史记载的第一位爱国谏臣，因直谏被纣王剖心。武王伐纣后感念其忠心，为其封墓，北魏孝文帝时建庙。在民间，比干被视为公平正义的象征，尊其为文财神、文曲星。另外，比干还是裘皮行业的始祖。
庙宇坐北朝南，主体建筑有比干庙牌坊、比干财富文化广场、丹心牌坊、碑廊、大殿、墓碑亭等，大殿后以阴阳墙相隔留存有巨大的“天葬墓”。这是中国第一座含墓祭人之祠庙，称为“天下第一庙”。
庙宇古朴壮观，留有大量历史文化珍品。其照壁为明代弘治年间的遗物，图案为24块高浮雕绿色琉璃砖烧制的牡丹花卉图案，花根长在一个花瓶里，寓意比干后裔子嗣昌盛，支派同源。碑廊内保存有86方碑碣，大都出于历代明君贤相、地方官吏和文人墨客的手笔。比干墓前的残碑上镶刻着“殷比干莫”四个字，据考证为孔子剑刻遗迹，为孔子传世唯一真迹。
另外，比干庙内还有开心柏、没心菜、板柏等奇特植物，为比干庙留下了众多美好动人的传说，其景物本身也构成了千古之谜。
比干庙内碑碣林立，从春秋时期到清朝乾隆亲书御碑，几乎含盖了我国历史上所有朝代。
孔子剑刻《殷比干墓》碑，是迄今发现的唯一的孔子真迹，被誉为“天下第一碑”。北魏孝文帝的《皇帝吊殷比干墓文》相传为南北朝著名书法家崔浩书，为魏碑精品。清乾隆御书的《过殷太师墓有感》为端正的楷书，笔韵严整雍容，华丽端庄，有帝王之风。《林氏姓源碑》为研究林氏起源、分布、社会演变提供了重要实物。碑中精品还有唐太宗的《封殷太师比干诏》、《祭殷太师比干文》，元朝刘敏中的《赦修比干墓碑》等。这些都是举世名碑，是我国古代书法艺术的丰富宝库。
比干后裔：比干死后，周武王为比干封墓，并诏回比干夫人和儿子，正式赐其子姓林，比干成为林姓的太始祖。比干庙也是林氏家庙。每年农历的四月初四和十月廿五，海内外比干后裔、林氏儿女纷至沓来，拜谒先祖、传承家风。
没心菜的传说：据说比干被剖心后，经姜子牙指点，南行70里到新地之乡即可换心，但途中不能与人说话。比干走到半路，见一老妇人在浇菜园，那菜个个无心，便问：“这无心菜能活吗？”老妇人狠狠地说：“人无心当死，却还要活，何况这菜？”比干听后七窍流血，当即倒地而亡，瞬时狂风大作，飞沙走石，覆盖了比干的尸体，形成了一个沙丘，就是天葬的比干墓。
开心柏的传说：开心柏在比干墓旁。令人惊奇的是，柏树竟没有顶尖，有的还枝干开裂，从根至每一枝树梢全都是裂开的，中间呈现一“心脏”的形状。相传，树在比干去世后，痛惜比干的离世，树的顶部全部枯死，好像在为比干脱帽致敬，表示对圣人的尊重，后被世人称为“平冠柏”。
开心柏的传说：开心柏在比干墓旁。令人惊奇的是，柏树竟没有顶尖，有的还枝干开裂，从根至每一枝树梢全都是裂开的，中间呈现一“心脏”的形状。相传，树在比干去世后，痛惜比干的离世，树的顶部全部枯死，好像在为比干脱帽致敬，表示对圣人的尊重，后被世人称为“平冠柏”。