1946年初春，为迎接美国总统特使马歇尔上将，展现人民军队的风采，中共中央决定组建一支仪仗队。陕甘宁晋绥联防军教导旅某团挑选了500名年轻、精干、仪表端正的战士，编为3个连，组成了我军历史上第一支临时仪仗队，由团长罗少伟、政委魏志明负责带队。

为参加作战、训练和生产劳动，仪仗队官兵平时穿着的军衣，和其他战士没什么两样：仍穿着和抗战时期一样的八路军军服，左臂佩带白底蓝字的“18GA”（十八集团军）臂章，腿上都打着绑腿，脚蹬黑布鞋，许多战士的衣服还打着补丁，直到执行任务那天，才换上新军装。

在延安经过20多天艰苦紧张的训练,仪仗队员的军事素质有了很大提高。1946年3月4日，仪仗队迎来了成立以来的特殊时刻——第一次也是最后一次执行迎接外宾的任务。上午10时左右，毛泽东、朱德等中共中央首长来到延安机场。仪仗队3个连队呈横队排列，每连排头是炮班，其次是机枪班，官兵们铁打钢铸般站立在队伍的最前面，组成一道亮丽的风景线。

大约过了1个多小时，随着由远而近的巨大轰鸣声，一架银灰色的飞机徐徐降落下来。飞机舱门打开了，马歇尔在国民党将领张治中等人的陪同下走下舷梯。毛泽东、朱德等迎上去，与来宾一一握手、互致问候。随后，仪仗队领队罗少伟跑步上前向朱老总报告说:“仪仗队准备完毕,请首长检阅!”在朱老总的引导下，中央首长陪同马歇尔等人向仪仗队走来。仪仗队的官兵们手握钢枪、精神抖擞地接受检阅。

受阅任务完成后，根据上级命令，1946年4月中旬，我军这支最早组建的仪仗队解散后回到原部队驻地，继续担负起了保卫延安的光荣任务。就在队伍启程的前一天，朱老总专程来到机场驻地为官兵送行。他满怀激情地说：“你们这次任务完成得很出色，没有辜负党和人民的期望，充分展示了我军威武强大的力量，我代表党中央谢谢你们！”

1949年10月16日，我国迎来了第一位外宾——苏联驻华大使罗申。罗申要正式向毛泽东主席递交国书，中央确定用仪仗队和军乐队举行欢迎仪式。当时将组建仪仗队迎宾的任务交给了公安警卫师警卫营。在欢迎罗申大使时，仪仗队下着马裤，脚穿马靴，头戴钢盔，手持上刺刀的三八式步枪。尽管着装都是缴获而来的，但队员们动作整齐，精神饱满，任务完成得十分顺利。

1953年6月29日，中国人民解放军仪仗队正式组建。1953年11月11日，金日成率领代表团访华乘专列抵达我国安东（今丹东），成为检阅中国人民解放军仪仗队的第一位外国国家元首。

1956年，中国人民解放军仪仗队正式改建为陆、海、空三军仪仗队。