張大彪原本是宋哲元麾下大刀隊的一個普通排長，參加過很多戰役，張大彪有個老母親，有一次張大彪請假離隊回老家安排母親去安全的地方，結果母親和其他村民都被日軍害死了。
張大彪一氣之下加入八路軍為母報仇，張大彪因此特別憎恨日本人，奮勇殺敵，總是沖在抗戰前線，很快就因表現出色接連升職，得到了長官李云龍的重視。
張大彪很崇拜李云龍，是李云龍最忠實的下屬，一直跟隨李云龍南征北戰，李云龍當師長的時候，張大彪也被晉升為師參謀長，只是李云龍和楚云飛兩敗俱傷后張大彪就再也沒出現過了。
關于張大彪最后的結局有兩種說法，流傳比較廣泛的是張大彪在金門戰役中犧牲了，另一種說法是說張大彪驍勇善戰，有勇有謀，在李云龍養傷期間屢建奇功，作者擔心張大彪搶了李云龍的風頭，所以把張大彪寫沒了。