牟融年輕時博學，教授門徒數百人，聞名鄉里。以茂才為豐縣縣令。在職三年，縣裡沒有獄訟，為州郡第一。司徒范遷推薦他，任司隸校尉、大鴻臚、大司農。漢明帝以他朝會善議論，永平十二年（69年）七月，接替伏恭為司空。漢章帝即位，以他為先帝名臣，永平十八年（75年）十月命他接替趙憙為太尉，錄尚書事。建初四年（79年）二月初五牟融卒。