南宋开禧元年（1205）入太学，绍定二年（1229）登黄朴榜进士，授江西南安军教授。后知四川嘉定，再升总领淮西军马钱粮，转大理司直枢密院编修。此后曾改知赣州、苏州、安庆、平江等地。知安庆时兼任淮浙提刑点浙西刑狱；知平江时兼淮浙发运使。贾似道当权于朝，四处网罗人才以为己用，有意拉拢郑霖。但郑霖深恶贾似道恃世弄权，不愿与其往来，后贾似道以"司都"、"监礼部郎官"等职授郑霖，皆拒不就职。贾怀恨在心，遂诬郑霖造登台桥一事为"积粮聚众，图谋不轨"。理宗偏听不察，竟加杀害。时年七十二岁。数年后，理宗见到郑霖遗表，幡然悔悟，昭雪其冤，追赠中奉大夫龙图阁直学士，并赐葬西岙集福寺前。 郑霖的诗文(3篇)
提刑曾宝章宴安抚陈侍郎乐语。宋代。郑霖。听得敷纶天上头，二星交会玉虹流。风生三路军容壮，春到双江喜气浮。谈笑预知传露布，劝酬只恐促更筹。会看印佩黄金斗，肯羡当年定远侯。
赠无择老禅因观稼(其二)。宋代。郑霖。每谒祠堂憩虎邱，山僧煮茗雪花浮。陆泉便作曹溪会，引得清风话未休。
彭知军宴交代都运陈宝章乐语。宋代。郑霖。使轺严戒鼓逢逢，熊轼颁春到此邦。炳炳福星临一道，融融爱日照横江。断霞秋日闲飞鹜，荒草寒烟不吠厖。台府交欢同一体，从今俗返古淳庞。
