日占青岛时期，深山公园内景，图片源自《日本侵华图志》
这个公园最初的目的可能一部分也是为了培养幼苗而建，后来陆续增建，绿植逐年增加，日本第一次侵占青岛后，在被已更名为“深山公园”内还建了一个儿童游乐场，有凉亭、秋千等设施，逐步显示出都市公园的形态。
1922年中国政府收回青岛主权，改称为青岛第四公园，园内也继续保持了增植的状态。据《胶澳志》记载，第四公园，面积6003㎡，1923年，种植花木仅86株。1924年，种植了246株，并建立了四个花卉苗圃。
上世纪三十年代登载在《青岛时报》上的青岛咖啡饭店广告，从中可见第四公园的知名度已是很高了。
从广告介绍可以看到，咖啡饭店的地址是在大舞台戏园（后来的红星电影院）隔壁，第四公园的对面，照片中可见公园一角绿植繁茂。
据刘少文的《青岛百吟》记载：“第四公园甚平衍，无奇花异卉，树仅百株，而在中山路侧，又近福禄寿电影院。马龙车水，遂为士女所恒游。灯火光深，绮罗香腻，近水楼台，固有幸不幸也。”这就是说，第四公园在当时，已成为岛城富商和摩登女郎经常光顾的地方。一些“芳闻艳事”也多出于此。所以刘筠又有诗曰：“衣香鬓影去匆匆，故意撩人立上风。疑是身经花坞里，魂消尽在不言中。”
1941年青岛银行公会老照片，建于1934年，现今保存完好。
1929年，国民政府接管青岛后，为使中山路成为一条新的商业金融街道，1932年，青岛市政府决定将就位于中山路的青岛第四公园土地辟为商业开发区域，第四公园竞租后，金融界竞相抢购。青岛银行同业公会及中国银行、大陆银行、山左银行、中国实业银行、上海商业储蓄银行和金城银行等6家银行决定共同承租该地块，购地费用由6家银行分摊。不久，浙江兴业银行、青岛农工银行也随后迁入。当时青岛市有银行15家，其中8家集聚于此。
