その前に、歩兵砲って何？と疑問に思われる方がいると思いますので簡単に説明します。
【歩兵の直接支援をするために砲兵ではなく歩兵が直接扱う比較的軽量の大砲。配備先により連隊砲、大隊砲の異名を持つ】
これでお分かりでしょうか？自分でも説明に自信ないんですが、もっとかみ砕いていうと通常砲兵は歩兵部隊の後方から頭越しに砲撃して敵陣地や後方施設を叩くものですが、歩兵砲は最前線近くで直接照準か曲射（山なり弾道）で敵軍の前方にある火点（機関銃座など）を制圧する兵器です。
分からない人はそういうものだという事で読み進めてください（爆）。
ところで二枚目の画像はそれぞれの大砲の弾道を描いたものです。①が対戦車砲②が高射砲③が迫撃砲④が榴弾砲⑤がカノン砲（画像では野砲になってますが、野砲はだいたいカノン砲と榴弾砲の中間くらいの弾道）です。
第2次大戦中日本軍が使用した九二式歩兵砲は能力としては並でしたがなにしろ軽い事が特長でした。分解すれば歩兵が肩に担いで運べたそうですからなかなかの優れモノです。大戦後もベトナムや中国国共内戦でも使用され、1954年のディエンビエンフーの戦いでベトミン軍が使用したそうですから息の長い活躍をしています。
ただ戦後は、対戦車ミサイルや対戦車ロケット、無反動砲の発達によって歩兵砲は廃れます。いくら軽いといってもこれらと比べたらはるかに重いですからね。威力も歩兵砲よりもはるかに強力ですし。
120㎜重迫は九二式と比べると重量・射程でほぼ同等、威力は遥かに上（70㎜と120㎜）でしたから廃れるのは当然だったかもしれません。
歩兵砲に関しては、より軽くて運用しやすい迫撃砲で代用したらどうか？という意見が当時から多かったと聞きます。しかし直接照準で敵火点を攻撃できるのは魅力（迫撃砲は曲射しかできない）で第2次大戦中まではまだまだ有効な兵器だったと考えます。