上海大学最初沿用了东南高等专科师范学校位于闸北青岛路(后改名为青云路)的校舍。

1924年,因为学校的发展,校舍向西迁至公共租界西摩路也就是今天的陕西北路,并租下时应里、甄庆里、敦裕里的民房作为师生宿舍。

1925年,上海大学师生积极参与社会运动,招致租界当局的不满, 6月4日,工部局下属的万国商团和巡捕武装搜查并占领上海大学。为了继续办学,校方在西门,就是今天的老西门的方浜桥勤业女子师范学校设临时办事处设立临时办事处,并以方斜路新东安里18号作为临时校舍。

1925年9月开学时,校舍迁至闸北青云路的师寿坊。

1927年,上海大学在上海东北面的江湾兴建了新校舍。“四•一二”政变后,上海大学被国民党军警查封,军队进驻江湾校舍,不久成为新成立的国立劳动大学的部分校舍。