塔基四面共有八尊托塔力士，孔武有力的造型，威武庄严的表情，整体美感丝毫不逊于别处的唐代石窟造像。

砖塔每层叠涩出檐，第一层正面辟拱券门，门上是清代的「须弥峭立」石匾，塔的四角都塑有力士雕刻，看起来还挺有意思。二层以上都在正面开一小窗。塔的整体形制介于楼阁式与密檐式之间，平均层高较高，收分近似斜线。类似楼阁式塔，但随着层数增高，每层的高度又明显减小，这是与常见的楼阁式塔不同的地方。

残碑据考证记述的是五代时期成德军节度使安重荣的事迹。安重荣曾追随石敬瑭建立后晋，被封为成德军节度使，镇守真定。但他一向不喜欢契丹人，后因为不满石敬瑭对契丹卑躬屈膝的卖国行径，起兵反叛，最终被镇压，惨遭擒*，这块歌颂他功绩的石碑也随即被砸毁掩埋，直到千年后的今天才得以重见天日。

与须弥塔相邻的是一座歇山式二层钟楼，二层建于清代内悬唐代铜钟一口，一层建于唐代，是我国仅存的五座唐代建筑之一，也是其中唯一的一座钟楼，其历史地位和艺术价值无可比拟。