1929年的大萧条，使人们重新认识银行和证券市场的作用。由于商业银行将其吸收来的存款直接投放到股票市场，造成股市泡沫;股市泡沫破灭又引起银行体系的崩溃，结果造成全面的金融和经济危机。为了避免危机重演，1933年,美国通过了《格拉斯—斯蒂格尔法》。

该法案规定商业银行不得经营证券发行(Issue)、销售(Distribution)和经纪(Brokerage)等业务，投资银行也不得兼营支票存款、存单存款等商业银行业务。

曾经主宰美国金融界的摩根公司被限制在商业银行领域，其证券业务分离出来单独组建为摩根士丹利公司;第一波士顿公司则从波士顿第一国民银行分离出来，成为专业的投资银行——独立投行时代由此开启。

许多国家在二战后基本上采取了类似《格拉斯—斯蒂格尔法》所提倡的措施。日本在1948年制定《证券交易法》，促成日本银行业和证券业的分离。在日本，专营股票、债券的金融机构叫做“证券公司”，经营存贷款的机构则被称为“银行”。整个东亚地区(包括中国)基本上采用了类似日本的称谓，这就是“证券公司”的来源。而德国、瑞士等则基本上维持了全能银行的主导格局，并没有大规模分离出纯粹从事证券业务的公司。

实际上，投资银行并非是《格拉斯—斯蒂格尔法》的受益者。该法通过后的近20年里，由于经济不振、战争等因素，投资银行的各项业务发展陷入停滞，这种惨淡的状况一直延续到二战结束。“大萧条”的阴霾仍笼罩在美国经济上空，在很长一段时期内，股票受到了广泛的冷遇，被认为是不可靠的投资品种，只有少数人才会去购买蓝筹股或优质债券。由于资本市场的发展长期停滞，企业融资业务较少，投资银行只能依靠零星的债券发行业务勉强维持生存。

沃伦·巴菲特恰在那个时期来到华尔街，他感受到的是：“老一辈人都笼罩在对大危机的恐惧之中，新的一辈尚未崛起。最近时期从哈佛商学院毕业的学生中，仅有2.9%的人来到了华尔街，新的一代人觉得这里没有诱惑力。”(美)罗杰·洛温斯坦著，蒋旭峰，王丽萍译：《巴菲特传：一个美国资本家的成长》，中信出版社2008年版。

直到20世纪60年代，随着资本市场的繁荣，华尔街的投资银行业才获得长足的发展。持续的牛市刺激了股票的交易，企业争相上市融资，债券发行创造了历史记录，共同基金等机构投资者也纷纷崛起。

即便如此，彼时投资银行业依然是一个封闭的传统行业。理查德·布克斯塔伯这样形容：“直到20世纪70年代早期，投资银行业更像精英互助会，而不是竞争性行业;没有风险，短缺资金，缺乏想象。然而，一切都将发生改变。那时，摩根士丹利是投资银行界老大，它却只有30家合作伙伴和不足2 000万美元的资产。投资银行的首要任务是担当企业并购顾问和提供承销服务。顶尖的投资银行向其公司客户提供顾问服务，总揽承销，然后把债券和股票出让给声望较低的证券商分销。并购业务在朋友圈中进行，校友和城郊俱乐部会友关系的重要性不亚于内在的才能。一方面，承销清楚明确，获利颇丰，只需要很少的资本，成本低廉;另一方面，分销时身处困境，不断给投资者打电话，管理交易小组和行销员，而且一旦发行的股票或债券未能如数卖出，资本将承担很大风险。”理查德·布克斯塔伯：《我们自己制造的魔鬼——市场、对冲基金及金融创新的危险性》，第25页，中信出版社2008年版。

20世纪70年代以后，投资银行逐步朝着多元化、专业化方向发展，投资银行业务扩大到公司理财、资产管理、投资咨询、并购重组，以及为中小企业和消费者融资等诸多领域。传统的以承销、经纪等为核心的业务构成正在逐渐发生变化，新业务给这个行业带来的利润在整个利润结构中所占比重越来越大，它深刻地改变了原有的交易模式和市场结构。到80年代，美国投资银行的融资与发行业务、经纪与交易业务、并购咨询业务、自营投资和资产管理等买方业务，都取得了巨大的发展。

在独立投资银行时代的专业化竞争过程中，曾经分化出以不同业务为主导的投资银行，主要类型有融资发行主导型、交易主导型、经纪主导型、资产管理型、研究咨询主导型等。在20世纪90年代允许混业经营的背景下，还出现了商业银行主导型投资银行，以及保险公司主导的投行业务。