南梁寻阳郡太守刘显之子。十八岁是举秀才，担任邵陵王东閤祭酒。梁元帝时，改任中书舍人。江陵陷落，刘臻归顺萧詧，被任命为中书侍郎。北周宇文护召他为中外府记室，军事书简檄文多为刘臻亲笔写成。后来担任露门学士，任大都督，封饶阳县子。历任蓝田县令、畿伯下大夫。

隋朝建立，进位仪同三司。高熲讨南陈，刘臻随军负责文笔，进爵为伯。皇太子杨勇召他为太子学士，他和太子关系亲密。和仪同、太子学士刘讷关系也很好，刘臻住城南，刘讷住城东，多混在一起，经常出笑话。598年（开皇十八年）去世，享年七十二岁，文集十卷通行于世。