汉代皇帝左右的大臣称大将军、骠骑将军、车骑将军、前将军、后将军、左将军、右将军等；临时出征的统帅有别加称号者，如楼船将军、材官将军等。魏晋南北朝时，将军有各种不同的职权和地位，如中军将军、龙骧将军等，多为临时设置而有实权；如骁骑将军、游击将军等，则仅为称号。唐十六卫、羽林、龙武卫、神武、神策等军，均于大将军下设将军之官。宋、元、明多以将军为武散官。明代的总兵官有挂印带将军号的。此外，宋、元、明亦称殿廷武士为将军。