1929年7月张学良强行收回中东路之后,苏联政府宣布与中国全面绝交,并加紧军事战备,以武力解决中东路争端。8月6日,苏联军事委员会发布第223号命令,命令驻扎在远东境内的全部武装力量合并为一个集团军,即苏联特别远东集团军,并任命曾在北伐期间担任国民革命军军事总顾问的布留赫尔(即加伦)为集团军司令,指挥部设在赤塔。远东集团军总兵力约四万余人,下属3个步兵师、1个骑兵师,1个蒙古骑兵营,并配有大量飞机、坦克、重炮、战舰等技术兵器,其中仅战机就有69架,还装备了当时苏联最新型的MC-1坦克。此外,阿穆尔河(黑龙江)区舰队也负责予以海军方面的支援。
8月15日,张学良下达对苏作战动员令,组成两个防俄军,王树常为第一军军长,负责整个东线,即松花江一线的指挥,司令部设在了绥芬河;胡毓坤为第二军军长,负责西线,即满洲里--扎赉诺尔--海拉尔一线的指挥,司令部设在了满州里。19日又成立了满洲里防俄军前方总指挥部,委任丁超为前方总指挥,梁忠甲为防俄前方督战司令。防俄军兵力与苏军大体持平,但武器装备远不如对方,一旦开战,不仅难有胜算,且易被日本人坐收渔翁之利。因此,东北地方当局一度倾向于通过谈判的方式来结束事件,派出蔡运升与苏方接洽。而中国驻德大使蒋作宾,也卷入其中,交涉德国进行斡旋。但因蒋介石一直不肯真正接受苏方最起码的谈判条件而告失败。中苏边境大战势所难免。
10月11日,苏联特别远东军为赶在松花江封冻之前结束战斗,首先对同江一线的东北军发动猛烈进攻。虽然东北军拥有规模仅次于国民政府中央海军的地方性舰队,并击中苏军旗舰\"雪尔诺夫\"号舰桥,但苏军炮舰凭借强大的空中火力支持,很快压制中国守军的火力。经过一个多小时的战斗,东北军松花江舰队被击溃。12日,苏军采用了空军、海军配合陆地上的步兵、骑兵协同作战的方式,击退守卫江岸的东北军,占领同江。此役东北军损失官兵250人,被俘150人,而苏军仅死亡5人,伤24人。
之后,苏军暂时撤回了部队,以便进一步观察南京政府和东北当局的态度以及国际社会的反应。张学良本想恢复对苏联的谈判,但口风一出,立即受到南京政府和舆论的质疑。他只得增派第7步兵旅驰援富锦,再和苏军硬拼一番。10月30日上午,苏军战机飞抵富锦上空,向东北军进行轰炸,击沉了中国松花江舰队的残余舰船。31日,苏军集中军舰7艘,飞机9架,步骑兵3,000余人,各种炮80余门,全力进攻富锦,激战一直从上午10时进行到下午4时,苏军未能攻下富锦。为防止被围,东北守军弃城撤走。11月1日苏军入城。 此次战斗,东北军300名官兵战死,几百人负伤被俘;苏军陆、水兵死3人,11人负伤。
同江一线作战失败后, 张学良督令东北防俄军加强西线防守。在满洲里--扎赉诺尔--海拉尔一线集结了大约了26,000名官兵,140挺机枪,108门迫击炮,近80门轻炮,3辆装甲车,5-7架飞机,并构筑了广阔的工事带。但苏军凭借其30门重炮、9辆坦克、32架飞机的优势,于11月17日夜越过中苏边境,分兵几路先后将西线的三个军事要地满洲里、扎赉诺尔和海拉尔分割开来。然后,首选扎赉诺尔作为进攻的重点,集中优势炮火对中国军队阵地开始猛烈轰击,东北守军进行了猛烈的反冲锋,双方互有伤亡。苏军伤亡70名官兵,包括两枚红旗勋章获得者、骑兵连长皮里平科。这是自中苏发生边境冲突以来苏军所蒙受的最大损失。
11月18日8时,苏联空军和炮兵对扎赉诺尔进行更加猛烈的轰炸,苏骑步兵在坦克的掩护下发起了冲击。激战中东北军旅长韩光第、团长林选青阵亡,团长张季英负伤自杀,东北军余部退往嵯冈车站,与驻扎那里的守军会合。扎赉诺尔落入了苏军手中。不久,攻占扎赉诺尔的苏军转向西进,驻守满洲里的梁忠甲第15旅更是陷入重重包围之中。西线东北防俄军总指挥胡毓坤从海拉尔派出两个旅的兵力增援梁忠甲,并派出飞机报信,但飞行员误将信号筒投在了苏军阵地的前沿。梁忠甲不知援军将至,决定向南突围。11月21日,突围部队遭遇了来自苏军陆地和空中的重重堵截,以失败而告终。随后,苏军对满洲里城区展开决定性的进攻,旅长梁忠甲以下八千余人被俘。
满洲里失守后,张学良不再听从南京政府的禁令,派哈尔滨交涉员蔡运升设法与苏联外交部接洽,谈判解决中东路问题,并于11月25日主动撤出了海拉尔。但布留赫尔依旧派出空军紧随中国后撤部队一路轰炸,使当地军民继续遭受战火的蹂躏。
11月17日,苏军在西线发动进攻的同时,还开始了在东线绥芬河-密山一线作战。当天傍晚,苏军占领密山,18日太平镇失守。在消灭了密山东北军的军事设施后,苏军撤回了苏境。但占据着海拉尔的苏军不撤,以保持对东北当局的高压态势。
此次中苏边境战争历时40余天,苏军大获全胜,俘获和杀伤东北军近2万人,缴获大批武器弹药和军事物资,摧毁了松花江舰队以及同江、富锦、满洲里、扎赉诺尔、海拉尔等地东北军的营房、堡垒、通讯设施等各种军事目标。东北军自此元气大伤,为日本关东军所轻视,而发动后来的九一八事变。张学良最初想用武力收回中东路主权,最终仍不得不坐到谈判桌上来,接受苏联恢复中东路原状的条件。