在中山桥没有建成之前，兰州黄河段依靠“镇远浮桥”过河。镇远浮桥始建于明洪武五年，曾经是黄河两岸民众的出行的要道。不过由于冬天黄河结冰，浮桥每年都要冬天都会拆掉，夏天再建，很不方便，而且夏天汛期还经常会将浮桥冲毁