学生军训，在我国可追溯到古代的奴隶社会。据《礼记》、《周礼》等记载，西周官学已有“国学”与“乡学”之分，并有小学和大学两级。西周大学，以习武为主，教师一般由军官担任。军训主要内容为习射，即学射箭，加驾驭五种战车的方法等。这是我国古代最早对学生进行军训的记载。以后各朝代都有过对学生实施军训的记载。在国民党政府统治时期，也实行了童子军训练制度，并规定了童子军军事训练的内容和管理。
我国对学生实施军事训练真正走向正轨，还是中华人民共和国诞生以后。1955年7月我国颁布第一部《兵役法》，第一次从法律上作出了在大学生、高级中学学生中进行军事训练的规定，并从同年冬季起，首先在北京体育学院、北京钢铁学院进行军训试点，后又增加了北京邮电学院等12所高等院校。在两批14所高等院校中，进行了21个军事专业课题的训练，受训学生达一万多人。从1955年至1957年间，教育部、国防部依据《兵役法》的规定，又先后批准在全国127所中等学校进行军训试点，受训学生达7万余人。当时，高等院校重点进行预备役技术军官训练；高级中学进行基础军事训练。实践证明，上述军事训练，对激发学生爱国主义热情、增强学生的国防观念以及扩大知识面，培养祖国需要的合格人才，都起到了积极的作用。

60年代初，经国务院批准，全国53个大、中城市的38所高等院校和70所高级中学或中等专业学校的一年级学生，进行了军训试点。1965年，根据党中央有关大专院校学生到部队当一段时间兵的指示精神，全国又有部分大专院校学生到部队下连当兵。
党的十一届三中全会以后，我国政治、经济形势出现了建国以来少有的大好局面，开展学生军训时机日趋成熟。中共中央在1981年下发第11号文件，指示高等院校要把学生军训纳入教学计划，部分学校恢复了学生军训。1984年，六届人大二次会议通过并颁发了新的兵役法，把高等院校和高级中学学生军事训练单列一章，充分体现了国家对学生军训的重视。1985年，我国又在52所高等院校、102所高级中学（含中等专业学校）设立了军事训练试点。1986年，中央领导同志强调，今后对高等院校新生要集中进行军事训练，过一段严格的军事生活。军训试点的高等院校增加到69所。1987年扩大到105所。为进一步搞好学生军训试点，国家教委、总参谋部、训练时间、训练内容、军事教员的配备，以及学生军训的经费和物资保障等方面作出了明确规定，推动了学生军训的迅速发展。到1996年，全国军训试点院校已扩大到157所，此外，还有很多非试点院校也会根据自身情况组织学生进行了各种形式的军事训练，据不完全统计，我国已有近500所高等院校和近3000所中等学校开展了学生军训，每年参训的学生约占年度招生的一半左右。