2003年他開始擔任中國男隊的主教練，2013年正式成為了中國乒乓球隊的總教練。中國的乒乓球隊是眾所周知的厲害，每次比賽幾乎都包攬了所有獎項。而選手們出色的表現與教練科學的指導密不可分。
別看如今的劉國良身材有些走樣，在他還是選手的時候，面貌也是相當清秀。一直以來世乒賽、世界杯和奧運會是乒乓球界的幾大主要比賽，能拿到這幾大賽事冠軍的大滿貫選手少之又少，而劉國梁就是其中的一位。雖然自己的戰績非常出色，但他一直以來都非常低調。他擅長采用直拍橫打技術，并且利用這種技術橫掃乒乓球界，獲得多項冠軍。
在當年的里約奧運會上，張繼科第一局輸給了日本選手。當時劉國梁并沒有大聲斥責他，而是提醒他要保持清醒的頭腦。后來張繼科連扳幾局，最終成功戰勝了對手。所以劉國梁確實帶領中國乒乓球隊走上了巔峰。
因為許多官員在大家的心中的形象都是大腹便便的，所以劉國梁也被網友誤認為是純粹來觀看比賽的官員。后來有許多網友笑稱，也就是這個不懂球技的胖子幾乎拿遍了乒乓球界的所有冠軍。所以說不能憑外貌去評論一個人，平常還是要多閱讀新聞，擴大自己的視野。這樣才不會說出令人發笑的言論。