瑷珲条约和北京条约签订后，俄罗斯计划修建从人口稠密的西部到远东的西伯利亚铁路。然而在阿穆尔河地区，由于森林茂密、河流湍急以及极寒天气再加上人类稀少，修建一度被搁置。
1886年，建筑师提出铁路改道，从赤塔经由清政府控制下的满洲地区，直达海參崴。
1860年，清政府与俄罗斯帝国签订《中俄北京条约》，将海參崴割让给俄罗斯。改名“符拉迪沃斯托克”，意为“控制东方”。
为使清政府同意其筑路计划，沙俄在1895年中日签订的《马关条约》中，联合德国和法国，使日本放弃割让中国辽东半岛的要求。
1896年，李鸿章在赴俄祝贺沙皇尼古拉二世加冕，在此期间，签署《中俄御敌相互援助条约》，同意俄国“通过黑龙江、吉林修筑一条铁路”等事宜。9月，两国签订协议，确认铁路需由私人公司而非俄罗斯政府营运。12月俄国将铁路定名“满洲铁路”，遭到李鸿章的反对。清政府在正式场合之中通常使用“东三省”的称呼。李鸿章坚持，“必须名曰‘大清东省铁路’，若名为‘满洲铁路’，即须取消允给之应需地亩权”。因此铁路正式定名为“大清东省铁路”，简称清东铁路，又称东清铁路。
东清铁路从1897年8月动土兴建，以哈尔滨为中心，分东、西、南部三线，由六处同时开始相向施工。1903年7月14日，东清铁路全线通车营业。
1905年9月，日俄战争结束。签署《朴次茅斯和约》，其中规定，长春以南至旅顺路段735KM改属日本，被称为南满铁路。其余部分仍称中东铁路。
沙俄在继续修建西伯利亚大铁路阿穆尔区段，完全绕过整个中国东北，工程于1916年建成通车。
1917年起，中国政府逐步收回附属地的管辖权。1920年起，东清铁路北段始称“中国东方铁路”，简称中东铁路。
1922年苏联成立后，由中国与苏联共管长春以北的中东铁路。
1924年5月31日，《中苏解决悬案大纲协定》在北京签订。中东铁路成为中苏共管的经济资产。
1929年，中苏爆发“中东路事件”，张学良在蒋介石的授意下，欲以武力收回此前名义上置于中苏共同管理下的中东铁路的权益。这是北伐后中国第一次与外国交战。
5月27日，搜查苏联驻哈尔滨总领事馆，逮捕39人，5月29日，封闭哈尔滨、齐齐哈尔、海拉尔等地苏联领事馆。7月10日。派军警及中方工作人员2000余人强行收回中东路，接收和查封沿路的机关及设施，将苏联局长、副局长等高级官员59人驱逐出境。
7月20日，苏联在黑龙江上扣留中国海城号、宜兴号两艘轮船。7月20日对中东路东端的绥芬河方面进行炮击。双方开始发生军事冲突。
8月6日，苏联成立集团军，总兵力达3万人。8月8日，与张学良领导的东北军进行交战。东北军一线兵力虽然有6万人，但在军事素养和装备上均处于劣势。
从8月份起，仅满洲里一带，就发生大小战斗一百余次，苏军侵入中国内地百余公里。11月20日，当地守备的东北军向苏军投降。
在整个事件中，中国军人死伤及被俘人员9,000余名（伤亡2,000名，被俘7,000余名）。苏军被击毙821人，受伤729人。
1929年11月26日，张学良不得不向苏联求和。承诺恢复苏联对铁路的控制。12月20日，签订《中苏伯力会议议定书》，中东铁路恢复中苏合办，苏军退出满洲里，彼此释放所俘军民，重设领事馆。12月底，苏军开始撤军，
这是张学良的一块巨大的心病，以至于刻意回避。1990年，张学良向唐德刚口述了自己的一生，成书为《张学良口述历史》，该书七万多字，关于中东路事件仅仅139个字。
1931年九一八事变后，日军侵占黑龙江省，控制除了中东铁路以外的黑龙江地区各铁路。1932年，满洲国成立，中东铁路改由苏联与满洲国合营，更名为北满铁路。
1935年3月，苏联将北满铁路以1亿4千万日元卖给满洲国。
