根据《高丽史》记载，林衍原名林承柱，本贯镇州林氏。而其父亲不知来自何方，侨居镇州，娶州吏的女儿为妻，因此以镇州为本贯。林衍最初为大将军宋彦祥的部下，因击退蒙古兵的功绩被任命为队正。当时有一个名叫林孝侯的人与林衍的妻子私通。林衍知道后，也诱导林孝侯的妻子与自己私通，报了此仇。有人告发了此事，但将军金俊对他的行为赞赏不已，力救得免，并推荐他担任郎将。因此林衍认金俊为义父。

1258年，林衍同金俊、柳璥发动兵变，杀死了崔竩，崔氏政权覆灭。由于林衍在推翻崔氏政权、恢复王权的过程中起重大作用，被高丽高宗授予「卫社功臣」的称号。

1268年，因与金俊发生田界冲突，林衍杀死了金俊，尽灭其党，建立新的武人政权。次年废黜高丽元宗，拥立安庆公王淐为王。林衍则被任命为教定别监，独揽朝政。

高丽元宗是亲元派人物，元宗的被废触犯了元朝的利益，因此忽必烈遣使诘问林衍。林衍则谎称元宗是因病逊位的，元朝要求元宗与安庆公王淐同来元大都以断其曲直。林衍拒绝了这一要求，随后元朝发兵进攻高丽。林衍发兵抗击元军，失败窜居海岛，元宗复位。

林衍遣夜别抄军至各地方抗击元军，并责令百姓入居海岛。元朝遣使要求林衍投降，被他拒绝了。不久以后，林衍因过度担忧的缘故，疽发背而死。諡号庄烈。其子林惟茂嗣位。