哈同1851年出生于巴格达。其父为犹太人，以经商为业。哈同5岁随父迁居印度孟买，不久因与兄不睦，只身流浪香港谋生，并进老沙逊香港分行当小职员。

1873年转到魔都老沙逊分行任司阍（传达室看门）。当时他囊中羞涩，全部家产只有6元龙洋，至此只能与洋行雇佣的中国勤杂工住在一个工棚内，但是凭着他机灵的脑袋，勤奋的工作，在传达室一天也可捞到一二十元外快，又学会了一口流利的中国话，于是得到洋行大班赏识，转入新沙逊洋行，提拔为跑街，进而又提拔为烟土仓库保管员和收租员，并于1879年进一步被破格提升为大班，协办兼管房地产部。

在此期间，他利用贩卖烟土，赚了不少钱，并利用这些钱，在南京路一带用他的投机伎俩陆续占取了一些土地，奠定了他经营地产和发财致富的基础。特别是他先后当上了法租界董事和公共租界工程部董事后，因为有机会参与策划非法扩大租界或越界筑路的阴谋，可以预知拓宽马路，扩大公共设施的计划，所以多次依仗特权，用低价强购中国人的土地。

1901年他独资开办了哈同洋行，专门从事房地产投机。经过多年经营。巧取豪夺，到20世纪30年代，成为魔都近代史上名声显赫的一个“地产大王”。

哈同的妻子是中国人，名叫“罗迦陵”。

1902年春，罗迦陵去金山烧香，不期而遇乌目山僧。罗慕其名，遂聘山僧设计哈同花园。乌目以《红楼梦》中大观园为蓝本，进行布局，从1902年起逐步将哈同花园扩建，到1910年全部竣工，耗时8年，轰动魔都，被称为“海上大观园”、“海上迷宫”。

当时冯国璋（1857-1919）是中华民国大总统，民国六年9月，曾发给哈同一枚“四等嘉禾章”。徐世昌（1855-1939）任大总统期间，又给哈同颁发过一枚“三等文虎章”、二枚“二等嘉禾章”。

民国时期的一批遗老，如岑春煊、黎元洪、章太炎、章士钊、齐燮元等政客、名流，均曾来过哈同花园观光。

哈同夫妇识字不多，但还算附庸风雅，“尊师重教”。哈同花园里，曾办过华严大学，也办过仓圣明智大学，招收不少贫家子弟免费入学，不少文人学者如罗振玉、王国维和康有为等都在此治学任教。