Cənubi Qafqazın və Yaxın Şərqin ən qədim müsəlman məbədlərindən olan Şamaxı Cümə məscidi Xəlifə Xalid ibn Vəliyədin dövründə onun qardaşı Müslüm ibn Vəliyədin Azərbaycana gəlməsinin şərəfinə 743-cü ildə inşa olunub.

Bəzi mənbələrə görə, Xilafət ordularının məğlub etdiyi Xəzər xaqanı məhz bu məsciddə İslam dinini qəbul edib.

1859-cu ildə Qafqazın ən böyük quberniyalarından olan Şamaxıda baş verən dağıdıcı zəlzələdə zərər görən məscid bərpa edilib. 1902-ci ildə baş verən növbəti zəlzələ zamanı məscid dağılmayıb.

1918-ci ildə erməni daşnak dəstələri tərəfindən törədilən mart qırğınları zamanı Şamaxıda da soyqırımı aktı həyata keçirilib. Ən böyük qırğın isə Cümə məscidində baş verib. Şamaxılıların məscidə sığındığını görən ermənilər burada yanğın törədərək təqribən 1700 günahsız insanı xüsusi amansızlıqla qətlə yetiriblər.

Şamaxı Cümə məscidi Heydər Əliyev Fondunun “Tolerantlığın ünvanı – Azərbaycan” layihəsi çərçivəsində əsaslı təmir olunub. Bərpa və yenidənqurma işlərinə 2010-cu ilin martında başlanılıb. 2013-cü il mayın 17-də Azərbaycan Respublikasının Prezidenti İlham Əliyev məscidin açılış mərasimində iştirak edib.