上海博物馆创建于1952年，原址南京西路325号旧跑马总会，1959年10月迁入河南南路16号中汇大楼，现址黄浦区人民大道201号。

1993年8月，上海博物馆新馆开工建设，1996年10月12日全面建成开放。上海博物馆建筑总面积39200平方米，占地面积1.1万平方米，地下二层，地上五层，高29.5米，总投资5.7亿元。新馆是方体基座与圆形出挑相结合的建筑造型，具有中国“天圆地方”的寓意。馆名“上海博物馆”为上海第一任市长陈毅书写。