少孤，父親墳墓前柏樹被盜賊砍去，李充手刃該盜賊，因此而知名。晉成帝時王導徵召其為掾，後征北將軍褚裒引為記室參軍，後因家貧苦求外出，于是褚裒任命其為剡縣令，後遭母憂，服闕，為大著作郎，後又歷任至中書侍郎，任內去世。為大著作郎時，曾經主持整理圖書和編制《晉元帝四部書目》工作，開創了四部分類法：五經為甲部；史記為乙部；諸子為丙部；詩賦為丁部。四部分法之後一直為後人所沿用。

李充愛好刑名之學，深抑虛浮之士，批評當時「越禮棄學而希無為之風」。他擅長楷書，為世人所重。著有《論語注》十卷、《論語釋》一卷、《翰林論》五十四卷、注《尚書》及《周易旨》六篇、《釋莊論》上下二篇、詩賦表頌等雜文二百四十首。現逯欽立輯《先秦漢魏晉南北朝詩》中存詩三首，且其中兩首僅有類書中所引用的佚句；嚴可均輯《全上古三代秦漢三國六朝文》中保留有李充零星著作。有子李顒，亦有文採，郡舉孝廉。