بناي آرامگاه علي بن‌ابي‌طالب عليه السلام ابتدا توسط هارون الرشيد با گنبدي از گل سرخ بپا شد. پس از آن توسط داعي الصغير از نوادگان زيد بن علي بن حسين بازساخته شد ساختمان بنا آخرين بار بوسيله عضدالدوله ديلمي بويه‌اي در حدود ??? قمري بازسازي گرديد. از اين رو ساختمان اصلي حرم علي بن ابي‌طالب از آثار معماري آل بويه به حساب مي‌ايد. در دوره‌هاي بعد، تعميرات متعددي به خود ديده، و به تزيينات زيادي آذين شده‌است. گنبد اولين بناي حرم در زمان هارون الرشيد به رنگ سرخ بود، عضدالدوله، بجاي آن گنبدي سفيد بنا کرد و در عصر صفويه گنبد سبز گرديد و سپس توسط نادر شاه گنبد طلاکاري شد.