不过汉武帝元鼎四年(前113年)时，分郡治真定县(即秦朝东垣县)附近的四个县为真定国，常山郡的郡治向西南迁移到元氏县(今元氏县西北故城村赵云路)，统县18，隶属冀州刺史部。《史记·孝武本纪》载：“常山王有罪，迁，天子封其弟于真定，以续先王祀，而以常山为郡。”

　　常山国

　　东汉光武帝建武十三年(37年)将真定国并入常山郡，郡改称常山国，与周围中山国、赵国、巨鹿郡之间的辖境发生一定变化，统县反而减少到13，治所仍在元氏县。西晋时期，常山郡西南分置乐平郡，元氏县归属赵国，范围进一步缩小，郡治迁移回汉初的真定县(今正定县)。西晋沿置，统县减少到8，不过恒山仍在境内上曲阳县西北。

　　常山郡

　　十六国北朝各代基本沿用郡治，归属于定州，北周改称恒州。隋朝统一后，又称恒山郡，统县8，仍治真定。唐初称恒州，天宝元年(742年)，改恒州为常山郡，十五年(756年)，常山郡更名平山郡，乾元元年(758年)，废平山郡，复置恒州。后又为了避唐穆宗讳改为镇州，到北宋升为真定府，常山不再作为郡国之名。