1927年11月，南京国民政府成立中央研究院，并设立地质研究所。

李四光应中央研究院院长蔡元培的邀请离京南下，主持地质研究所的筹建工作。1928年1月，地质研究所在上海成立，李四光兼任所长。

地质研究所建所初期，李四光把主要精力放到基础建设、人才培养和整体研究工作的领导上，他对地质研究所的研究方向明确提出，“本所的研究工作，应特别注重讨论地质学上之重要理论，目的在解决地质学上之专门问题，而不以获得及鉴别资料为满足。”

地质研究所与地质调查所南北呼应，互相借鉴，形成了我国地质科学早期的研究体系。