1978年我国恢复研究生教育制度，次年我院开始招收硕士研究生，研究生教育的相关工作由教务处负责管理，1981年首批硕士研究生毕业。随着研究生教育的不断发展，1999年成立研究生部，直属院长主管。研究生部负责我院研究生的培养和学位授予以及组织导师遴选等相关工作。2006年8月，为整合学术资源、推动学院发展，研究生部与科研处合并为科研与研究生处。目前，除研究生部原有职能外，科研与研究生处还负责天津音乐学院的科研管理和学科建设工作。
我院涉及研究生教育的部门包括作曲系、音乐学系、键盘系、管弦系、声乐系、民乐系、音乐教育系、艺术管理系。目前拥有硕士生导师80人；招收培养音乐表演艺术、音乐学、作曲与作曲技术理论等30多个研究方向的硕士研究生；开设50多门研究生课程。
截止2007年1月，我院已培养硕士研究生200人，是国内培养音乐艺术高层次人才较多的院校。目前在校研究生共计185人。
天津音乐学院毕业研究生以其全面的知识素养、扎实的专业技能、突出的创作实践能力，受到用人单位的广泛赞誉和好评。随着社会的需要，研究生教育蓬勃发展，科研与研究生处各项工作与时俱进，目前正在进一步充实机构，规范管理。