成化十三年(1477年),升任刑部尚书加太子少保,虽已年过六旬,但仍“夙夜匪懈”,详核案件,为蒙冤的死囚平反,总数不下600人。由于秉公办事,声望益着。成化十五年(1479年),与宦官汪直、定西侯蒋琬往辽东查办案件。成化十六年(1480年),上疏乞归未准;成化十八年(1482年),病逝于任上。朝廷诰授荣禄大夫、太子少保,谥庄敏。灵柩归葬于宁德八都铜境山。林聪着有《奏议》8卷、《见庵文集》14卷,有抄本流传。林聪刚正不阿,仗义执言,不少佞臣因之下狱、贬官或外调。因声望日隆,也遭到一些人的嫉恨。景泰五年(1454年)冬,御史黄溥等弹劾林聪挟持吏部、徇私荐举福建参政许仁达为巡抚以及泄私怨弹劾兵部主事吴诚等事。林聪因此被判死罪。大学士高谷、礼部尚书胡滢皆为林聪抱不平,极力挽救。代宗遂诏释林聪,将其贬为国子学正.