並為之建塔。唐肅宗時代（七五六－七六一年）敕該寺名為「乾元禪寺」。唐代宗大曆三年（七六八年），朝廷諡號為「覺寂塔」，現把這座塔的歷史碑文抄錄如下：

覺寂塔在山谷寺（亦名三祖寺）內，通稱三祖寺塔。唐天寶乙酉年（公元七四五年）舒州別駕前河南少尹李常經始建，丙戌中成（公元七四六年），唐大歷三年（公元七六八年）夏四月，揚州牧御史大夫張延嘗，奏請朝廷得冊，號塔曰覺寂塔。唐武宗會昌間滅佛法，塔毀。唐宣宗大中初，塔復制。明嘉靖癸丑年（公元一五五三年）塔院僧了瑩，募緣重修，至庚申年（公元一五六〇年）乃獲落成。明萬曆戊子年（公元一五八八年）十月，又修理了塔頂。現在的塔，塔剎是宋乾道八年四月以生鐵鑄成。塔體為重修時以磚石砌成。該塔五層八方，塔頂八向繫鈴。風動鈴響，其聲悅耳。斗栱布局嚴謹，塔壁鏤有佛像。各層外有磚砌環衛，內有台階可登。外旋中空，出入相制。一九八一年九月安徽省人民政府公布為省級重點文物保護單位。

儘管三祖的事蹟我們知道得不多，但是這座三祖寺內，倒有不少古蹟和歷代名人的題刻。例如「三祖山摩崖石刻」，現在還存有十一幅，