تاریخ این مسجد به صدراسلام میرسد و بنای ابتدایی آن را یکی از خلفای عباسی پایه گذاری کرده است. قدیمیترین منبر در این مسجد قرار گرفته و در شرح و توصیف فضای آن بسیاری از نویسندگان و تاریخنگاران نوشتهاند. در عصر صفویان این مسجد مورد بازسازی گستردهای قرار گرفت و جز چند کتیبه و گلدسته از بنای ابتدایی چیز بسیاری باقی نماند. اکثر کتیبههای مسجد در خصوص آموزش و احادیث بوده که در بازسازی دههی 40 تعداد زیادی از آنها نیز تخریب شدند. در حال حاضر مسجد در فهرست آثار ملی ایران قرار دارد و تحت نظارت سازمان اوقاف است.