在东北期间，张冲秘密进行反张作霖的活动，担任过国民党哈尔滨市党部委员兼青年部长、特派员。1927年3月被捕下狱，幸赖母校哈尔滨政法大学校长雷殷庇护，方免一死。1929年张冲返回南京，由于他才华出众，熟谙俄语，又通晓苏联事务，深得陈果夫、陈立夫兄弟器重。30年代初，张冲升任国民***组织部调查科(“中统”前身)总干事，主管情报事务。抗日战争期间，曾任国民党代表，与周恩来相处5年，为促成抗日民族统一战线和国共团结抗战，为中华民族最后打败日本侵略者作出了卓越的贡献。

　　1935年在国民党四大上当选为中央执行委员。从1935年下半年开始，奉命参与同中共代表进行秘密谈判，其间曾到陕北瓦窑堡与毛泽东、周恩来会晤，对促成第二次国共合作发挥了重要作用。1936年12月随蒋介石到西安，12日西安事变爆发，被扣押。次年抗战爆发，任军事委员会第六部主任秘书。同年冬出访苏联，任实业考察团副团长。后调任军事委员会办公厅顾问事务处中将处长。