Nafile namazların tek başına kılınması daha faziletli olduğu halde, teravih namazının cemaatle kılınması Hz. Peygamber (s.a.s.)'in uygulaması ile sabittir. Nitekim Hz. Peygamber teravih namazını birkaç defa cemaatle kıldırmış, ancak daha sonra farz olur düşüncesiyle cemaate kıldırmaktan vazgeçmiştir (Buhari, Salatü't-Teravih, 1; Müslim, Müsafirin, 177).
Hz. Ömer halife olunca, halkın dağınık bir şekilde Teravih namazı kıldıklarını görüp, tekrar cemaatle kılınmasının daha hoş olacağını düşünmüş ve ashapla istişare ederek bu namazın yeniden cemaatle kılınmasını başlatmıştır. Halkın vecd içinde bu namazı kıldıklarını görünce, "ne güzel bir adet oldu" diyerek memnuniyetini belirtmiştir (Buhari, Salatü't-Teravih, 1). Hz. Ali de, bu uygulama sebebiyle "Ömer mescitlerimizi Teravihin feyziyle nurlandırdığı gibi, Allah da Ömer'in kabrini öyle nurlandırsın" diye dua etmiştir (el-Mutteki el-Hindi, Kenzu'l-Ummal, XII, 576).