斯大林在第二次世界大战末为获得德国最高统帅部在战争最后几个月中使用的秘密武器，特别是V2型弹道导弹，曾经做出了巨大努力。

德国火箭实验基地佩内明德被苏联占领。基地上的武器、建筑物和附属设施都从基地搬到苏联，成千上万名德国科学家和技术人员也被直接转移到苏联，建立最初的火箭工厂，并向苏联科学家和技术人员讲解德国火箭研制的情况。他们在这里呆了好多年，建立起第一批苏联火箭工业基地。

美国与苏联在获得德国的火箭和火箭科学家方面进行了竞争，但是在1949年，第二次世界大战期间和战后被待为上宾的美国总统顾问万尼瓦尔·布什博士在他的名著《现代武器和自由的人》中说，弹道导弹可能永远不会实际上用作核武器运载系统，它的有效载荷太小，造价过高，其准确度不足以摧毁具体目标。布什博士的分析和急剧缩减的军事预算，让美国的弹道导弹计划在五十年代初期实际上被停顿了下来。

像美国一样，苏联在五十年代初集中力量生产轰炸机。但是苏联最初的远程轰炸机野牛，从未达到过西方分析家估计苏联生产这种飞机的能力—每月25架的数字。现在看来，原因在于苏联决定主要用导弹而不是用有人驾驶的飞机作为运载工具。以后几年的解释是：这样一种大胆的科学战略的例子，可能是苏联共产***委员会和苏联政府的军事技术政策，苏联全力以赴来创造一种崭新的运载工具—火箭。这个政策使得苏联在这个方面得以超过美国，当时美国集中力量于研制洲际轰炸机作为独一无二的（美国当时认为）核运载工具。

苏联党的领导对苏联航天计划的关注，帮助了战略火箭军研制运载火箭的工作。导弹的可靠性经过许多次航天器的发射，得到了改进。

苏联第一支火箭部队于1946年由近卫部队组成，被指定为最高统帅部炮兵预备队的一部分，作为炮兵总指挥部的首脑（1948-1950年），炮兵主帅M.N.尼德林同这支新的部队有着密切的关系。从1952年到1953年，和从1955年到他在1960年去世，他担任过主管军械的国防部副部长，1959年12月，他又被任命为战略火箭军第一任总司令，不过只是一个兼职而已。

1960年10月，尼德林和一大批苏联军官来到苏联最大的导弹试验基地图拉塔姆，视察新的运载火箭的发射。导弹在发射台上爆炸了。尼德林和大约300名其他军官和主要科学家同时遇难。苏联战略火箭军遭到了灭顶之灾，后来认为，如果没有这次爆炸，苏联的航天和导弹计划要提前许多年就能实现，而且性能要优越的多。

苏联新闻宣传工具把他的死归咎于一次飞机失事，继他担任战略火箭军总司令的，是当时的莫斯科军区司令、苏联元帅莫斯卡连科。

1962年4月，赫鲁晓夫在准备他的古巴冒险行动时，选中了苏联元帅比留佐夫接替莫斯卡连科担任战略火箭军的首脑。比留佐夫是当时国土防空军的总司令。1963年3月，比留佐夫调任为总参谋长，由前莫斯科军区司令苏联元帅克雷洛夫接替他的职务。到1972年2月去世，克雷洛夫一直担任这个职务。陆军大将托卢勃科由远东军区司令的岗位调任战略火箭军的总司令。

自从战略火箭军组成以后，它始终被当作“主要军种”，其总司令的地位居于其他四个军种的总司令之前。战略火箭军是武装力量当中最年轻、最有威力的军种，它构成了保卫苏维埃力量的基础，而且是快速战斗准备的部队。

虽然苏联新闻宣传工具对这支部队广泛宣传，却很少有像样的文章介绍过什么具体的情况。战略火箭军的官兵是苏联各军种里的精英，未来的新军官在被派往战略火箭军学习之前，都必须经过当地兵役委员部的批准，其他军种则不要求这样的手续。

射程超过1000公里的陆基导弹，都隶属于战略火箭军，射程低于1000公里的导弹，则部分属于陆军的火箭部队和炮兵部队。但是，有许多属于战略火箭军的导弹，并不是远程导弹，这种导弹主要是为了战略火箭军用于其他任务，比如近距离攻击和防御等。

苏联军事学说和战略强调战争中的第一次打击和挫败敌方核打击的必要性。六十年代后期，苏联领导人看到他们的反弹道导弹系统不能阻挡导弹的袭击，于是就考虑用战略火箭军协助国土防空军。而与美国进行的限制核武器的谈判，对于战略火箭军的影响是极其微小的，新的改进的导弹不断有计划的出现。老旧的导弹则被当作协议内容销毁。

虽然苏联最高统帅部把相当一部分战略核武器放在了潜艇上，但是战略火箭军仍然是其主要的军种。技术上的突破使敌人有可能在海上追踪潜艇，而散布在苏联各处的机动导弹，则具备比当时的核潜艇更高的生存能力。