1966年6月7日，张雨生出生于台湾澎湖，小名小宝。父母都是台湾陆战队文工团的演员，张雨生小时候就经常被父母带到部队看他们的表演，小雨生边看边学，从小就培养了良好的音乐基础。
1985年，张雨生考入台湾国立政治大学，和黄家驹在学校组建beyond乐队一样，张雨生也在学校开启了他的音乐之路。学生时代，张雨生就写了近百首歌，其中一首关注抗战老兵的歌《他们》，大三那年参加学校歌曲创作比赛，获得第一名。张雨生在大学还积极参加音乐社团，不但自己加入了政大吉他社，还力荐学妹陶晶莹成了吉他社的社长。
除了政大吉他社，张雨生还加入了一个乐队，Metal Kids（金属小子）。金属小子是政大一个重金属学生乐队，由于主唱陈子鸿大四即将毕业，因此在学校张贴海报招主唱，张雨生于是去应征。大家看到张雨生小小的个子，一副娃娃脸，西瓜头的形象，都不相信他能唱金属乐，于是张雨生给他们唱了一首《desert moon》。当第一句唱出来的时候，所有人都惊呆了，陈子鸿当天就把所有的招人海报全部撕掉，并且自己退居吉他手，把主唱位置让给张雨生。1988年，有了张雨生的金属小子参加了第一届台湾热门音乐大赛，张雨生获得最佳主唱奖。
金属小子中的张雨生
得了奖的张雨生内心澎湃，一心要在音乐上闯出一番天地，两个月后，张雨生给父母留下一张纸条就出走了：我去闯天下，如果不成功不回来。那个年代，正是台湾思想文化解严的年代，经济起飞，万物新生，充满生机与希望，正需要张雨生这种高亢激昂，充满能量的声音。
华语乐坛著名制作人翁孝良，在一个音乐西餐厅找到了正在驻场表演的张雨生，将自己写的《我的未来不是梦》交给了他，正是这首歌，让张雨生唱响了大江南北。这首歌也被台湾广告界的明星摇篮——黑松沙士用来做广告主题曲，任贤齐，罗志祥，金城武，何润东等，都是从拍黑松广告开始走红的。
