海牛被认为于6千万年前由陆地上的哺乳四足动物进化而来，与其亲缘关系比较近的有长鼻目的大象以及蹄兔目的蹄兔。
据考证，海牛原是陆地上的“居民”，是大象的远亲。近亿年前，由于大自然的变迁或缺乏御牧能力而被迫下海谋生。进入海洋后，依旧保持食草的习性，已有两千五百万年的海洋生存史，是珍稀海洋哺乳动物。
其庞大的身躯和厚厚的皮肤（3-4厘米）色泽酷似大象。 海牛的的体型很大，成年约3-4米长（雌性海牛通常比雄性体型更大），无背鳍，后肢退化消失演化为宽大成桨状的尾鳍。没有门齿和犬齿，仅具有臼齿，牙齿的替换方式是由口腔深处往前水平地移动，而且换齿的过程持续终生，在同一时间段内，上颌或下颌内的牙齿一般不会超过6颗。有可伸缩的上唇，可以用于含住食物，也有与同类通讯和社交的作用。
海牛的皮肤厚重，不具汗腺，前肢基部处各有1个乳头。肺很大，是浮力的主要来源。与马相似，海牛的胃结构简单，但有一个很大的盲肠以消化粗糙的植物类食物，通常消化道总长度可达45米，远远大于其它同等体积的哺乳动物。
海牛皮下储存大量脂肪，能在海水中保持体温前肢特化呈桨状鳍肢，没有后肢，但仍保留着一个退化的骨盆有一个大而多肉的扁平尾鳍胚胎期有毛，初生的幼兽尚有稀疏的短毛，至成体则躯干基本无毛，仅嘴唇周围有须，头部有触毛头大而圆，唇大，由于短颈，头能灵活地活动，便于取食鼻孔的位置在吻部的上方，适于在水面呼吸，鼻孔有瓣膜，潜水时封住鼻孔肠的长度超过20米胃分两室，贲门室有腺状囊，幽门室有1对盲囊眼小，视觉不佳听觉良好。肺窄而长，无肺小叶头骨大，但颅室较小，脑不发达。
海牛与同属于海牛目的另一科儒艮科动物儒艮在外观上很相近，它们之间的不同点在于尾部的形状：海牛的尾部扁平略呈圆形，外观类似大型单片的船桨而儒艮的尾部则是中央分岔的，和鲸相类似。
