宋仁宗天聖八年（1030年）進士。調江寧推官，攝上元令。任間多次查處當地殺人疑案，范仲淹稱道其才，得到范仲淹的表薦為知吉州永新縣。調楚州淮陰縣主簿，授江陵府觀察推官。宋仁宗召見，改任秘書省著作佐郎，知通州靜海縣、海門縣。擢升為江西轉運判官，知台州。在台州任上，出庫錢建房數千，安置遭大水災而無家可歸的流民。他留意民政，善斷獄，權三司度支判官。逾年，出為江西轉運使。皇祐年間，儂智高據嶺南。元絳以直集賢院為廣東轉運使，建水砦，繕治城，供給軍械兵食充足，以功轉任工部郎中。歷任兩浙、河北轉運使，召拜鹽鐵副使。當時百姓多盜販私鹽，制置使建議持私鹽二十斤者罰刑。以「海濱之人恃鹽以為命，非群盜比也」，改以罰鞭笞就將他們放了。擢升為天章閣待制，知福州，進龍圖閣直學士，轉任知鄆州、廣州、越州、荊南府。宋神宗熙寧年間，擔任翰林學士、知開封府，拜三司使。熙寧八年（1075年），拜參知政事。元豐二年（1079年），因事罷知亳州、潁州。元豐三年（1080年），加資政殿學士，知青州，留提舉中太一宮。元豐四年（1081年），以太子少保致仕。元豐六年（1083年），元絳卒，年七十六歲，贈太子少師，謚章簡。蘇頌為撰神道碑，王安禮為撰墓誌銘。