1895年，甲午战争的失败和《马关条约》的签订使中华民族处于危难之中。为了兴学强国，洋务派大臣盛宣怀提出“自强首在储才，储才必先兴学”的主张和对旧式教育机构进行改革的建议。 1896年，盛宣怀再次向清廷条陈自强大计，附奏《请设学堂片》，在上海筹款议建新式学堂，名曰“南洋公学”。1897年1月26日，奏折得到清廷御准，南洋公学正式创立，盛宣怀亲自担任公学督办，何嗣焜担任总理。 南洋公学初建时分为四院：师范院、外院、中院和上院，与以后逐步设立的特班、政治班、商务班和东文学堂构成了完整的新式教育体系。