Les sōhei utilisaient un armement très varié. Si le naginata est l'arme qui leur est le plus souvent associée, de nombreux moines-guerriers renommés sont connus pour avoir manié avec brio toutes les armes depuis l'arc jusqu'au tantō et au wakizashi. Beaucoup combattaient à cheval et portaient des armures de samouraï.

Les moines-guerriers, comme la plupart des autres moines bouddhistes , portaient un empilement de robes ressemblant à des kimonos, normalement une blanche en dessous, et une beige ou jaune safran dessus (ce style a peu changé depuis l'introduction du bouddhisme au Japon au VII^e siècle). Les chaussures se constituaient traditionnellement de chaussettes tabi et de geta, ou de waraji (sandales de paille). Enfin, beaucoup portaient divers types d'armures de samouraï.

La ceinture, ou obi, du kimono, était souvent complétée par une autre plus résistante, afin de pouvoir y suspendre un sabre. Le type de sabre le plus répandu était sans doute le tachi, bien que beaucoup aient aussi pu porter un tantō. Bon nombre de moines étaient des archers accomplis, et utilisaient des arcs de bambou et rotin appelés daikyū, avec des flèches de bambou.

L'arme la plus traditionnelle des moines, cependant, était le naginata, arme ressemblant aux hallebardes européennes.

Les sōhei étaient également entraînés à manier le kanabō, un large bâton ou massue en acier. Bien que mortelle, cette arme était généralement utilisée pour vaincre un adversaire sans répandre le sang.