徐世谱世居荆州，生于将军之家。长大后，有勇力，善于水战。湘东王萧绎担任荆州刺史，徐世谱率乡人为萧绎僚佐。

侯景之乱，徐世谱参加征讨叛乱，进员外散骑常侍。率水军在陆法和属下，在赤亭湖与侯景作战。制造楼船、拍舰、火舫、水车扩大军势。乘坐大舰站在先头，击破侯景大军，擒侯景部将任约。在王僧辩属下攻打郢州，侯景部将宋子仙归降。以功被任命为使持节、信武将军、信州刺史，封鱼复县侯。在姑孰击破侯景部将侯子鉴。侯景之乱被平定，以功绩任通直散骑常侍、衡州刺史，兼河东郡太守。

554年（承圣三年），西魏军攻打江陵，徐世谱屯驻马头岸，据守龙洲。梁元帝任命他为侍中、使持节、都督江南诸军事、镇南将军、护军将军。江陵陷落，徐世谱东下依附侯瑱。

555年（绍泰元年），被梁敬帝征为侍中、左卫将军。陈霸先征王琳，徐世谱监造水战器械。558年（永定二年），担任护军将军。559年（永定三年），陈文帝即位，加特进，进安右将军。561年（天嘉二年），出任使持节、散骑常侍、都督宣城郡诸军事、安西将军、宣城郡太守。召还建康为安前将军、右光禄大夫。后来因病失明，不再为官。天嘉四年五月丁卯（563年6月10日），徐世谱卒。享年五十五岁。谥号桓侯。