火箭其实不是现代的产物，大约在1000多年前的宋朝初期，我们的祖先就发明了利用反作用力的古代火箭。后来，古代火箭被广泛地用做作战武器。最原始的古代火箭，箭杆前端是伤人的箭头，后端是羽毛做的箭尾，它在飞行中起稳定作用，箭杆上绑黑色火药筒，点燃黑色火药，就可推动火箭前进。
到六七百年前的元、明时代，中国的火箭技术进一步发展，不仅火箭的样式增多，而且能多箭齐射。如“二虎追羊”，以及一次能发射2～100枚火箭的装置，其射程可达200～400步。这些火箭威力很大，既可以由士兵拿在手里发射，也可以装在战车、战船上发射。
大约在13世纪，中国的火箭传入阿拉伯国家，又经阿拉伯人传入欧洲。
虽然中国古代的火箭并没有能打开天门之锁，但是全世界都承认，火箭的故乡是中国，中国的火箭是打开天门的第一把钥匙。后来终于有人在20世纪40年代从中国古代的火箭中得到启发，制造出了真正的火箭。它首先被法西斯德国用做作战武器，那就是在第二次世界大战末期，布劳恩等人制造的V-2火箭（导弹）。