生平
早年
彭玉麟之父是彭鳴九，原籍湖南衡陽渣江，來到安徽合肥任梁園巡檢。彭玉麟之母是安徽安慶人。嘉慶二十一年（1816年），彭玉麟生于安徽安慶。道光十二年（1832年），彭玉麟全家隨父回籍。次年因族人欺凌，彭父憂憤成疾，含恨離去。彭玉麟家的田產又被族人霸占，彭玉麟母子只得避居郡城，少年彭玉麟就在漢軍綠營衡州協標內擔任書識來供養母親。知府高人鑒看到了彭玉麟的文章，很驚奇，就將彭玉麟招入府署，入為附生。
道光二十九年(1849)，湖南新寧發生李沅發之亂。彭玉麟隨著衡州協標一同剿亂，到了評定功績的時候，主管的官吏以為彭玉麟是個武生，就只給他為臨武營外委，彭玉麟不願就任。
湘軍生涯
1853年，隨曾國藩創辦湘軍水師，對太平軍作戰，次年于湘潭之戰擊敗太平軍，任知縣。
後隨軍攻陷岳州，升同知（正五品）。在武漢、田家鎮連敗太平軍水師。1855年2月在江西湖口為石達開所敗。于是整頓水師，配合陸師于1856年敗太平軍于樟樹鎮、臨江等地，升廣東惠潮嘉道道員。1857年，同楊載福等攻湖口，繼奪九江、安慶。後授安徽巡撫，力辭，遂改任為水師提督，晉兵部左侍郎。
1862年（同治元年）率水師策應曾國荃陸師沿江東下，堵截天京護城河口。1863年年與楊載福等破江浦、九洑洲、浦口，斷絕天京糧道。攻陷天京，獲賞一等輕車都尉世職，加太子少保。1868年會同曾國藩奏定長江水師營制。次年春回籍。1872年奉命巡閱沿江水師。1881年（光緒七年）署兩江總督，再疏力辭，仍留督江防、海防。1883年擢兵部尚書（從一品）。
中法戰爭
1884年，中法戰爭爆發，奉旨赴廣東辦理防務。1885年，法軍進犯諒山，窺伺廣西，率老將馮子材抗擊法軍。在鎮南關、諒山一戰，大獲全勝，多次上疏主戰，反對和議，疏中有「五可戰，五不可和」之語。未幾，和議已成，停戰撤兵。1888年，扶病巡閱長江水師，至安慶後以衰病開缺回籍。
病卒
1890年三月，病卒于衡州湘江東岸退省庵。賜太子太保，謚剛直，並建專祠。
品行
彭玉麟在當地是有名的「清官」，自咸豐五年至同治元年，彭玉麟應得養廉銀二萬一千五百餘兩，全數上交國庫充作軍餉。同治七年六月，彭玉麟在奏摺中寫道：「臣素無聲色之好、室家之樂，性尤不耽安逸，治軍十餘年，未嘗營一瓦之覆一畝之殖，以庇妻子。身受重傷，積勞多疾，未嘗請一日之假回籍調治。終年風濤矢石之中，雖甚病未嘗一日移居岸上。」。其剛直清廉和曾國藩的家書理學在當地是同樣出名的，1864年，彭玉麟把曾國藩的心腹柳壽田予以割耳撤職，以致於曾國藩去信責問：「重責割耳，謂非有意挑釁，其誰信之」，「此等舉動，若他人以施之閣下，閣下能受之乎？」彭玉麟晚年巡視長江，曾先後彈劾官吏一百餘人，安慶候補副將胡開泰召娼殺妻，彭玉麟殺之；湖北總兵銜副將譚祖綸誘奸張清勝之妻劉氏，殺人滅口，彭玉麟斬之。
彭玉麟見曾國藩之弟曾國荃濫殺平民十餘萬人，非常痛心，先後二次（1861年安慶之圍與1864年金陵之圍）致函曾國藩，要求殺弟以大義滅親，但曾國藩回應，反將一軍：「舍弟並無管蔡叛逆之跡，不知何以應誅？不知舍弟何處開罪閣下，憾之若是？」曾又自認軍紀無問題，又說，「鄙人在軍十年，自問聾聵不至於此。」。
書畫造詣
彭玉麟在軍事之暇繪畫作詩，他的詩後結集付梓，題名《彭剛直詩集》。《彭剛直詩集》由清代樸學大師俞樾撰序、輯刊，400多首詩基本反映了彭玉麟一生經歷的重大事件。衡陽收藏協會會長唐隆平2007年在衡陽縣覓得《彭剛直詩集》的光緒十七年蘇州刻本，共計兩本八卷。
彭玉麟的畫則以水墨梅花著稱，他筆下的梅花與鄭板橋筆下的竹子為清代畫壇兩絕。長沙市博物館館員陳立果和魏明評價彭玉麟的書法「自然生動、富節奏感、毫勁爽利」。
進入21世紀後，彭玉麟的作品才開始亮相，價錢一般，但近年價格大幅攀升。2011年，《行書七言聯》在貿聖佳獲價31.36萬。《梅花四屏》在上海寶龍獲價32.2萬元。2012年，《書法國屏》在四川嘉誠獲價50.4萬。2008年10月，央視《尋寶》節目錄製《尋寶：走進衡陽》特輯，彭玉麟的一幅墨梅圖被評為「衡陽民間國寶」。
咸豐七年，彭玉麟率湘軍水師水陸夾攻太平軍時，曾在湖口縣石鐘山留下「沒鏃飲羽,誠心石穿」的石刻。2009年才被當地政府發現。彭玉麟還在杭州繪製了一塊俞樓紅梅碑，上繪有疏密相間的梅樹，另刻有「七十二峰樵人雪琴並識」等字樣。
對文化事業的貢獻
• 修建船山書院：1878年，時任兵部尚書的彭玉麟支持張憲和在王衙坪王氏宗祠創建了衡陽的船山書院。後來船山書院衰落，1885年，彭玉麟又在東洲島上重建船山書院，並親聘國學大師王闓運任山長。
• 主編衡陽縣誌：清同治版《衡陽縣誌》刊定于清同治十一年，由彭玉麟作序及編纂。
• 修複迎江寺：彭玉麟任安徽巡撫及水師提督時，四處籌措資金修複安慶的迎江寺。
• 重建石鐘山：江西湖口石鐘山本有蘇東坡的《石鐘山記》的石碑，在太平太國戰亂中被毀，彭玉麟讓人重新修複了碑刻。並在石鐘山上修建報慈禪林、浣香別墅等景點。彭玉麟還親自深入石鐘山岩洞研究，寫了《石鐘洞敘》。
個人生活
家庭
父：彭鳴九，安徽合肥梁園巡檢。
妻：鄒氏
曾孫：彭小兵、彭尤伽。
後裔：彭淑端，嫁給民盟中央原主席、全國人大原副委員長楚圖南。
感情
彭玉麟與自己外祖母的養女梅姑相戀（羅爾綱1946年考證過，梅姑本名竹賓），但因梅姑在輩份上為彭玉麟阿姨，因此兩人不能結合，兩人各自婚嫁，後梅姑因難產而死。彭玉麟一生畫梅，以懷念梅姑。
評價
• 毛澤東秘書李銳在《廬山會議實錄》裡轉述周恩來的話，彭德懷說自己欣賞彭玉麟。
• 彭德懷的辦公室秘書王亞志，也回憶到彭德懷曾表示贊同彭玉麟「不要命」的人生。
後世紀念
紀念設施
玉麟路：衡陽市珠暉區有一條與湘江東路相交的道路被命名為「玉麟路」，與退省庵相距不遠，衡陽100路公交車可經過。
彭玉麟墓：位于衡陽縣樟木鄉南塘村彭祖山半山腰中。墓地座南朝北，方園百餘米，並有石馬、石羊等漢白玉雕，是衡陽縣文物保護單位。
杭州退省庵：彭玉麟在杭州西湖建立了退省庵，現位于今三潭印月景點。衡陽退省庵：彭玉麟1869年春回到衡州後修建了彭家花園，也名退省庵，現已不存，衡陽市政府在楊氏家廟重建。
彭玉麟渣江故居：彭玉麟的家鄉在衡陽縣渣江鎮和睦村，早年居住于此，故居後破舊不堪。彭玉麟的彭氏族親們一起籌集資金修複了彭玉麟故居，于2013年12月24日首度對外開放。
彭玉麟安慶故居：彭玉麟之父彭鳴九曾選授安徽省安慶府的懷寧縣三橋鎮巡檢，彭玉麟就出生于懷寧縣，母親就是安慶人，外祖父就住在安慶黃家坡（黃甲山）。彭玉麟也有故居在現安徽省安慶市，為安慶市的名人故居。
彭玉麟廉政塑像：衡陽市廉政文化雕塑園內有雕刻彭玉麟的塑像。
紀念活動
2016年為彭玉麟誕辰200周年，社會各界開展了各類紀念活動。中國郵政于2017年新年發行了「紀念船山傳人彭玉麟誕辰200周年」的賀卡。2017年1月4日起，紀念彭玉麟誕辰200周年書畫展在衡陽市博物館開展。2017年1月11日，衡陽市舉辦紀念彭玉麟誕辰200周年學術研討會。
注釋
