佛塔又叫“浮屠”，所谓“救人一命胜造七级浮屠”，意思就是一条人命抵得上建造七层佛塔。
释迦牟尼舍利塔边长八米，塔身高二十米，但除了塔内人们活动的第一层，高出三米之外的部分其实没什么用，主要目的是炫富，就像西晋的石崇、王恺用珍宝来斗富一样，建造高塔成为皇室、贵戚、豪富之间斗富的方式。
皇家的佛塔和壁画又多造于石窟窟室之内，原因也很简单，若是造殿造楼，会经常需要保养，还要小心风吹日晒，石窟内室方便保存得更好一些。
舍利塔的外壁用三千七百块不同形制的浮雕砖嵌砌而成，图案有佛像、弟子、菩萨、天王、力士、武士、侍女、飞天、伎乐、青龙、白虎、猛狮、大象、天马、巨蟒、花卉、彩带，共七十二种，其中还有一部分受到粟特人传来的波斯袄教文化影响，刻着胡腾舞者、吹笛人、翼畏兽。
高殷等人进入石窟，等法上念完经文后，就进行礼拜的仪式。
最开始的仪式是右绕，高殷手持燃灯，身后众人持香炉，以释迦牟尼佛舍利为中心，在中心柱窟室内不断右旋周绕，正如《华严经》中说的“始欲旋塔，当愿众生，实行福佑，究畅道意”。
石窟中央的塔柱巍峨耸立，撑起了这一方天地的信仰，四面联通的甬道，似是时光与心灵的回廊。墙壁上刻满了佛像，高殷漫步右旋，高睿与高淹等人亦步亦趋，他们的目光在墙壁上的佛像间游走，每逢一尊佛，便虔诚地俯身叩拜。
这种行为不知不觉中沾染了愿力，壁中密密麻麻的佛像精雕细琢，或坐或立，或慈眉善目，或宝相庄严，令人不由得寒毛乍起，仿佛各佛注视着自己，除了僧人低声吟诵的经文，就是自己逐渐加剧的心跳与呼吸，一种难以言喻的氛围悄然弥漫。
渐渐地，除了僧人们低声吟诵经文的呢喃，整个石窟再无其他声响，似乎就连自己的心声都听不见了，那经文声又不再像是僧人吟诵，而是自西方极乐世界传来，又似在耳边低语，心中的烦恼、猥琐与丑恶都被这低语轻轻洗刷荡涤着，落入无底的深渊中去，心灵因此伴随一种慵懒的寂寥而变得宁静，继而空旷，仿佛获得了无垠的自由。
忽然，一声啜泣打破了些许空宁，众人愠怒，发现是高淹正捂着脸哭