1918年3月生于浦江县治平乡张官村。1938年，他经同乡介绍到广西融县“四一”兵工厂当工人，后随厂迁至重庆。1949年，重庆解放后，张国富调至重庆市公安局第四分局黄沙溪派出所（现属渝中区管辖）任事务员、治安民警。

1952年6月2日下午5时，张国富沿成渝铁路去鹅公岩执行公务，行至新黄村附近时，正值一列火车从菜园坝方向驶来。他突然看见一个10岁左右的拾柴小孩正在铁轨上迎面走来，而列车飞快逼近，处境十分危险。

张国富急忙挥手大喊：“小孩快下来，火车来了！”然而小孩毫不知情，继续在枕木上行走。待小孩发现火车时，火车已近在眼前，被吓得不知所措。火车风驰电掣般驶来，千钧一发之际，张国富不顾一切地飞跑过去，猛地将小孩提上了人行道。

小孩安全获救了，而张国富刚跨出铁轨，却被疾驰而至的火车风势卷倒在地，头部被火车撞伤，终因流血过多，抢救无效壮烈牺牲，时年仅33岁。

1952年11月30日，为表彰张国富同志英勇献身的精神，中央人民政府公安部部长罗瑞卿签署命令，追认张国富同志为革命烈士，并授予“模范人民警察”光荣称号。张国富烈士是新中国成立后，第一个获得公安部授予的这一光荣称号的警察，也是重庆市公安民警中涌现出来的第一位全国性的英雄模范人物。