石菖蒲为多年生草本植物。根茎芳香，粗2-5毫米，外部淡褐色，节间长3-5毫米，根肉质，具大都须根，根茎上部分枝甚密，植株因而成丛生状，分枝常被纤维状宿存叶基。叶无柄，叶片薄，基部两边膜质叶鞘宽可达5毫米，上延几达叶片中部，渐狭，掉落。叶片暗绿色，线形，长20-30(50)厘米，基部对折，中部以上平展，宽7-13毫米，先端渐狭，无中肋，平行脉大都，稍隆起。

石菖蒲的花序柄腋生，长4-15厘米，三棱形，叶状佛焰苞长13-25厘米，为肉穗花序长的2-5倍或更长，稀近等长。肉穗花序圆柱状，长(2.5)4-6.5(8.5)厘米，粗4-7毫米，上部渐尖，直立或稍弯。花白色。

石菖蒲成熟果序长7-8厘米，直径可达1厘米，幼果绿色，成熟时黄绿色或黄白色，花果期2-6月。