中国有铁路始于清朝末期。然而清政府腐败、保守、专制，不肯接受新生事物。他们把修建铁路、应用蒸汽机车视为“奇技淫巧”，认为修铁路会“失我险阻，害我田庐，妨碍我风水”，因而顽固地拒绝修建铁路。
1876年7月3日，由英、美合谋，由英国在华的代理人——怡和洋行——背着清政府诡称修建从吴淞到上海的一条“寻常马路”，擅自在中国的土地上修建的中国第一条营业性铁路上海吴淞铁路建成通车了。随后，清政府出银28.5万两，分3次交款赎回这条铁路并予以拆除。
1879年，洋务派首领李鸿章为了将唐山开平煤矿的煤炭运往天津，奏请修建唐山至北塘的铁路。清政府以铁路机车“烟伤禾稼，震动寝陵”为由，决定将铁路缩短，仅修唐山至胥各庄一段，胥各庄至芦台间开凿运河，连接蓟运河，以达北塘海口；为避免机车震动寝陵，决定由骡马牵引车辆。
然而用骡马牵引车辆根本不能发挥出铁路应有的效用，1881年唐胥铁路通车时，中国工人凭借时任工程师的英国人金达的几份设计图纸，采用矿场起重锅炉和竖井架的槽铁等旧材料，试制成功了一台0-3-0型的蒸汽机车。这就是中国历史上制造的第一台机车。
另有一种说法是，中国第一辆火车是当时任唐胥铁路总工程师的英人薄内的夫人仿照乔治·斯蒂文森制造的英国著名的蒸汽机车“火箭号”而造成的，并把它命名为“中国火箭号”。可是中国工人却在机车两侧各刻一条龙，于是就把它叫做“龙号”机车。
由于照片上可以清楚地看到Rocket of China（中国火箭）的字样和龙的标记，所以后人一直认定这就是中国制造的第一台机车。但是从遗留下来的图片中我们可以看到这台机车设计规范、制造精良，怎么能和由废旧料制造的“怪物”等而观之？
2003年，研究中国铁路的英国人彼得·克拉什发现了一张金达与“中国火箭号”合影的照片。通过比较，可以看出这张照片上的“中国火箭号”与中国保存的那张照片上“中国火箭号”有明显地不同之处：机车的烟囱一个细而高，一个粗而矮；机车两侧水柜前，一个有鞋形块，一个没有；司机室上，一个是№1的标记，一个是圆形标记……由于年代的久远，资料的缺少，中国制造的第一台机车之谜依然扑朔迷离，一时难以真相大白。
目前中国铁道博物馆收藏着一台中国现存最古老的机车，由于它机身上有一个大大的“0”字，人们便把它称为“0号”机车。专家考证后认为唐胥铁路通车后，“1882年，又从英国购来两台小型的0—2—0式（只有两对动轮）机车（称0号），参加运行。”被认为是中国进口的第一辆机车。
自1881年建成唐胥铁路至1911年清政府垮台的30多年间，是中国铁路的首创阶段。这一阶段内，清政府由于洋务派和国内有志之士的不断建议和提倡，不但改变了修建铁路会“失我险阻，害我田庐，妨碍我风水”的认识，而且接受战争失败的教训，又进而从加强海防上认识到“铁路开通可为军事上之补救”，终于确定兴建铁路的方针，建立铁路公司，开始有筹划地修建铁路了。
30多年时间里，中国的18个省市修筑了铁路计9137.2公里。这些铁路有的是官办，有的是商办，有的是官商合办，还有一部分是中外合办，或者干脆就是外国人修的。
历史的车轮驶进中华民国，铁路建设的状况有所改观。南京临时政府在其成立之初设有交通部，又先后成立中华全国铁路协会和中国铁路总公司。从1928年开始执政的南京国民党政府，在其长达20余年的统治中，虽然制订了大规模发展铁路的计划，并一度设立铁道部统管全国铁路事业，但建成的铁路并不多。
全国铁路缺干少支的状况，在国衰民穷、连年战争的情况下，一直未得改变。到1949年，中国可统计的机车有4069台，分别出自9个国家的30多家工厂，机车型号多达198种，难怪人称中国是“万国机车博物馆”。据现在可以查到的资料，从英国进口的有1892年制造的Double，Bershire型（比谢尔式）机车等。