少年时期，在盐井私塾读书。1917年2月考入兰州兴文社两等学堂，同年秋又考入甘肃第一中学（今兰州一中前身）补习班，翌年2月考入正式班，于1921年底毕业。1922年7月考入北京民国大学中文系，1925年由同学胡廷珍（甘肃临夏人），介绍加入中国共产党，任党小组长，在北京西城区委和南城区委从事党的工作，与北京地委刘北庄联系。
1926年，张雅韶在民国大学毕业后，由中共地下党组织派往莫斯科中山大学学习，1928年毕业于该校政治科。
1928年底，张雅韶从苏联回国，按原定计划到上海找中共地下党组织接洽，时因大革命失败，在白色恐怖下上海地下党组织屡遭破坏，未能找到党组织。又到北京，得知胡廷珍去向不明，自己也在被国民党通缉之列，就改名张雅韶暂时藏身于北京“甘肃南馆”内。后经在莫斯科的同学萧长彬证明，找到了党组织，在北京重新从事党的地下工作。一次，他所在党组织在开会时被国民党军警冲散，经同学李而治介绍到河南省武原县躲避。
在武原，听到李翰园（临夏人，北京上学时加入中共，张的同学，后为马鸿逵部参谋处长）在郑州为马部招收教导团学员，张雅韶入招后，被李安排任教导团政治教官，以马列主义施教，学生思想进步甚大。
1928年春，甘肃发生以反国民军为旨的马仲其事件，李翰园又将张雅韶介绍到马仲英部，任秘书长兼顾问。经常给马仲英及部队官兵讲述革命道理，灌输进步思想，论述政治和军事关系，为教育改造马仲英部转化作了大量的艰苦工作，以至使国民党天津《盖世报》刊出马仲英被“赤化”的消息。1930年容，李翰园鼓动同乡人、马鸿奎部15路等2纵5L司令马仲英去河西，重振各部，进军新疆，与苏联取得联系，打通国际线，并源他与吴应祺社长等共产党员到马仲英部做争取和改造工作。于是，马仲英和其弟马仲杰等遂在他和吴应斑陪同下，奔赴河西。在此之间，他和吴应袭还介绍马仲英、马仲杰加入膏年团。他和吴应感到张掖利用秘书长、参谋长的有利地位整领军纪，积极宣传进步主张、引起外界注意，1931年，马步芳发动对马仲英的战争，马仲英被迫搬往新疆。损滋，曾任张液师范学院党委书记的康和厚称赞他“文学水平很高才华少有，并能写诗作文，出口成窜，是个可贵的人才”。1932年，张雅韶在对马部“新编36师”进行整顿后，以马仲英代表身份，赴兰州、西安向邓宝珊、杨虎城汇报了整编情况。
1933年5月，马仲英部进入新疆。7月，张雅韶受马仲英派遣，在迪化（今乌鲁木齐）同盛世才谈判，未达成协议，被扣留关押，先后在盛世才监狱里三进三出，长达10多年。
1945年张雅韶第三次出狱后，由同学介绍，安排到新疆第一中学任校长。5月，离新回家。1950年2月，漳县人民政府安排他任漳县中学校长。不久，又前往兰州，任兰州大学副教授，教政治、历史。1958年，调往张掖师范学院任副教授。1959年11月在兰州病逝，时年58岁。
