權武少驍勇果斷，勇力絕人，能重甲上馬。父權襲慶在并州與北齊作戰，奮戰而死。權武以忠臣子，起家拜開府，襲爵齊郡公。跟隨王謙攻破北齊服龍五城。平定北齊，攻克邵州，又拿下另外六城。周宣帝時，受位勁捷左旅上大夫，進位上開府。

580年，楊堅擔任丞相，把權武安排在身邊。587年（隋文帝開皇七年）權武擔任淅州刺史。參加對南朝陳征戰，以行軍總管隨晉王楊廣出征六合。凱旋，擔任豫州刺史。597年，因為他是創業舊臣、進位大將軍，檢校潭州總管。桂州李世賢作亂，權武擔任行軍總管隨武候大將軍虞慶則討亂。虞慶則隨後被處死，權武的功績也沒有算上，回到潭州。他造了很多金帶，贈給嶺南首領，首領以當地寶物作為答禮。權武都收受了，所以達到巨富。權武晚年生了一個兒子，招請賓客大開宴會，喝醉了酒，將管轄內的囚犯人全部釋放。權武治理當地按南方的風俗，採用適宜施策，不按照律令。文帝楊堅知道後大怒，想要將他處死。權武在獄中上書，說起父親權襲慶為武元皇帝楊忠戰死馬前的舊功，請求皇帝減刑。隋文帝饒他一命，除官爵為民。仁壽年間，再任大將軍，不久改任太子右衛率。

604年，隋煬帝楊廣即位，權武擔任右武衛大將軍，後來因事連坐免官。後複任桂州刺史，州郡改名，轉為始安郡太守。召還京師，為右屯衛大將軍，再次因事連坐免官。在家中去世。其子權弘。