Les paraules “Carmel” i “carmelites” provenen del topònim amb què es coneix una serralada muntanyosa que s’eleva vorejant la costa mediterrània, al nord-oest de Palestina. El Mont Carmel (literalment, “jardí”) n’és el punt més elevat, sobre la ciutat portuària de Haifa. Per la seva bellesa i frondositat, aquesta muntanya és lloada en l’Antic Testament, i la tradició hi situa alguns dels fets més importants de la vida del profeta Elies.

Els primers carmelites s’hi instal•laren, als inicis del s. XIII, “prop de la font d’Elies” (pròleg de la Regla). Amb l’aigua de la font, aquells eremites bevien també aquella espiritualitat profètica. Encara avui es conserven vestigis del primer convent a Wadi’ain es’Siah.

Aquella primera comunitat del Carmel estava formada per un grup de pelegrins que acompanyaven els croats a Terra Santa, amb el desig d’arribar a Jerusalem, per tal de seguir les petjades de Crist (“viure en el seu obsequi”) i abraçar el seu Evangeli. Aquest desig es concretava en la consagració a una existència obedient, pobre i casta, com la de Crist.

En el silenci i la solitud del desert, es mantenien ferms en la fe a través d’una vida de pregària i de contemplació, tot meditant nit i dia la Paraula de Déu i restant oberts a les mocions de l’Esperit. El seu objectiu era viure com la primitiva comunitat de Jerusalem, descrita als Fets dels Apòstols.

El conjunt de l’ermitori estava format per les cel•les, individuals i separades, a l’entorn de la vall. Al centre hi havia la capella dedicada a la Mare de Déu, en la qual es reunien cada dia per celebrar l’Eucaristia i per pregar junts. També es reunien pels àpats i per construir entre ells la fraternitat.

S’ocupaven en el treball i tot ho tenien en comú, res no els era propi. El superior era anomenat “prior”, és a dir, el primer d’una comunitat d’iguals, un germà entre els germans.

Molt aviat, aquesta comunitat demanà a l’Església l’aprovació jurídica. Vers l’any 1210 rebé de Sant Albert, Patriarca de Jerusalem, la Regla o norma de vida, la qual fou aprovada definitivament pel Papa Inocenci IV, l’any 1247. Per aquesta data, però, foragitats del Carmel, s’havien estès i establert ja a Europa.