Le caroubier est un arbre de 8 à 10 m de hauteur dont le tronc est raboteux. Avec ces branches tortueuses et étalées, il ressemble au pommier. Les feuilles, alternes, sont composées de trois ou quatre paires de folioles très ovales, épaisses, coriaces, vert luisant dessus, plus pâles dessous. Les fleurs, très petites, pourpre foncé, réunies en longues grappes, naissent sur les parties hautes des branches. Le fruit est une gousse pendante, aplatie, coriace, de 20 cm environ, à bord très épais marqué d'un sillon, divisée par des cloisons transversales et remplie d'une pulpe succulente dans laquelle les graines sont nichées.