1978年，經上海市高等教育局批準，上海師范學院（上海師范大學前身）被確立為碩士研究生培養單位，計算數學、現代漢語、古代史、理論物理、籃球5個專業首次招收碩士研究生19名，由此掀開了學校研究生教育的新篇章。1981年，學校被國務院學位委員會確立為全國首批碩士學位授予單位之一，教育心理學、中國古代文學、現代漢語、漢語文字學、世界文學、中國古代史、基礎數學、計算數學等8個學科被批準為碩士學位授權點。1986年，現代漢語專業成為學校第一個博士學位授權點。1998年，學校成為全國第二批專業學位授予單位，開始招收教育碩士專業學位研究生。2014年5月10日，學校成立研究生院。

經過四十多年的努力探索，學校研究生教育從無到有、從小到大地發展，如今基本形成了多學科、多層次、多類型的研究生培養格局，共培養了1500余名博士、23000余名碩士，為上海乃至全國的各行各業輸送了一大批高素質的專門人才。目前學校擁有一級學科博士點9個，一級學科碩士點32個（含博士點所屬），專業學位碩士點18個。在校各類研究生總數達8910余人（含留學生），其中博士生840余人，學術學位碩士生4520余人，專業學位碩士生3540余人。

在國務院學位委員會和上海市學位辦的指導下，在學校發展戰略引領下，在所有師生共同努力下，學校研究生教育正呈現出一派蓬勃發展的大好勢頭，并取得了顯著成就。學校采取積極措施，增加經費投入，合理配置辦學資源，逐步改善辦學條件。學校先后出臺了博士生創新能力培養機制綜合改革、碩士生培養質量監控體系改革、研究生創新能力培養模式改革、精品課程建設、導師培訓、高端社會實踐基地建設、境外研習基地建設、優秀學位論文培育、學位論文質量檢測保障體系建設等一系列的政策措施，著力提升研究生培養質量。借助上海市高水平大學建設之機，學校正在大力推進一流研究生教育創新人才培育行動計劃。

上海師范大學研究生院與研究生工作部合署辦公，負責總體規劃、統籌管理全校的學位與研究生教育工作。各院系和科研單位是實施研究生教育的主體機構。