在國民黨的時候，胡前寬是一位非常重要的軍官，但真實的他并不是那么高升，相反，其實胡前寬是一個非常不錯的將領，而且當初在蔣介石身邊頗為信任的人。他與胡宗南被當時的人稱之為“二胡”，胡前寬是金門王，胡宗南是西北王，并且當時的人說十個西北王，也頂不住一個金門王，可見胡前寬多厲害。
在陳誠帶領的土木系中，他擔任了很多職位，先擔任了連長，之后是營長，然后是團長。后來在進行抗擊戰之后，擔任了旅長，之后擔任了副師長，最后擔任了師長。在1944年八月的時候，還擔任了十八軍的軍長，而且因為被信任，而且自身很厲害，一路高升為集團軍中的副司令。
后來1949年跟著蔣介石去臺灣后，先在防衛部擔任司令官，后來又在福建省擔任主席，后來又升級，當了個陸軍副司令，后來1696年被派到南越，在南越呆了八年，后來又回到臺灣，擔任戰略的顧問，并且成功晉級，當上了國民黨中陸軍的一級上將，也是他這一生最高的官銜。