至此，双方在战场上的实力发生逆转，苏军的步兵有1.5倍优势、机枪有1.7倍优势、火炮有2倍优势、坦克有4倍优势、航空兵也有近2倍的优势。
朱可夫为进攻做了精心准备，他的设想是将主力集结在哈勒欣河东岸两翼，趁日军发动进攻前，在中蒙边界线、诺门罕以西合围日军主力，并歼灭之。为此第1集团军划分为3个作战集群，南部和北部集群集中了全军所有坦克和摩托化部队，以及必要的步兵和反坦克部队。中央集群则配备了2个步兵师、1个步兵机枪旅和2个炮兵团。
为了掩盖进攻企图，达成战役的突然性，朱可夫制定了一系列的欺骗行动。他让部下用无线电发送一些有关阵地防御和构筑工事的假消息，还把一架大功率音响搬到前沿，模拟打桩的声音，造成苏军正在大修防御工事的假象。他还命令部队调动时一律遵照提前制定的时间表在夜间进行，并出动飞机、炮击制造噪音掩盖己方调动部队时发出的声音。同时一些坦克和汽车拆掉消音器，来回在前沿走动。起初日军听到声音后，会立即向苏军阵地射击，但过了十几天他们已经习以为常，听到任何声音都不在意了。
作战计划是严格保密的，各部队指挥员只清楚部队下一步的任务，所有从集团军发出的命令都由司令部12名联络员传达，他们领到的指令则由一名特选的打字员统一管理。行动开始前4天，师旅级指挥员才接到有关进攻作战的文件；团营级指挥员在行动前1～2天接到命令；士兵接到命令时距离进攻只剩下3小时。
8月20日星期日，是朱可夫选定的进攻发起日。之所以这样安排，是因为朱可夫已经得知日军高级将领往往会在这一天离开指挥岗位，返回后方休假。清晨5时45分，苏军炮兵开始实施炮火准备，150架轰炸机在100架战斗机的掩护下，向日军炮兵阵地、防御前沿和预备阵地发起空袭。
底肃清东岸的苏蒙联军。
朱可夫准确预判了日军的企图。己方兵力处于劣势，但航空兵和坦克实力占优，而且哈勒欣河西岸的地形特别适合航空兵和坦克部队作战，所以他决定在防御中寻找反击机会。朱可夫的计划是集中手上的机械化部队在哈勒欣河西岸，待日军过河后，地面部队在空军的支援下，以多路向日军部队发起突袭，并一举歼灭。
7月2日，日军渡过哈勒欣河，并夺取了巴彦察干山高地。次日上午，朱可夫命令第11坦克旅从北面、第24摩托化步兵团从西北、第7坦克旅从南面同时向日军发起反击。150辆坦克突然出现在战场上，日军顿时乱作一团，战马拉着火炮四散奔逃，汽车也到处乱撞。
4日，苏军继续进攻，日军则希望通过不断的反击守住阵地，但被苏军航空兵和炮兵击退。随后苏军对巴彦察干山发动总攻，朱可夫叫来第17坦克旅旅长，命令他派一个营渡过哈勒欣河，他对该旅旅长说：“当我们把日军从巴彦察干山击败、滚到渡口时，你用火力和坦克实施敌后突击。”他在交代任务时，特意把“滚”字说得特别重。
旅长有些迟疑，认为这样会造成很大损失。朱可夫说：“损失会有的，明天等任务彻底完成后再统计，也许和战果比起来，那点损失还不算大。”
8时30分，经过三个小时的炮火和空袭准备，苏军沿70公里宽正面发动全线进攻。在两翼，苏军坦克迅速突破日军前沿防御阵地，机械化部队和蒙军骑兵跟在坦克后面冲入日军防御纵深，扩大战果。
南部集群在当天的进展顺利，北部集群则在占领日军前沿阵地后，推进至帕列茨高地时遇阻，经过激烈战斗不得不后撤。
8月21日，南部集群继续扩大战果，第6坦克旅和第8摩托化旅将日军一部合围，然后继续向前推
7月5日，日军被击溃，数千具尸体遗落在战场上，到处是被击毁或压坏的火炮、机枪、汽车。日军残部拼命逃往渡口，企图返回东岸，但浮桥被苏军工兵炸毁，很多日军官兵跳入2米深的哈勒欣河，大多数人溺毙身亡。
苏日双方在哈勒欣河两岸的战斗引起了各国强烈关注。此时英法、德、苏正在谈判桌上进行最后的博弈，德国和意大利的驻日武官就在哈勒欣河前线，他们把情况详细汇报给国内，让希特勒和墨索里尼强烈质疑日军的战斗力。
7月初的战斗结束后，朱可夫判断日军还会卷土重来。他认为目前苏蒙联军兵力不占优势，只能继续采取防御态势。同时他请求继续增调部队，以便发动一次决定性的进攻。斯大林急切希望远东的局势能够尽快平息，好腾出精力应对欧洲局势，所以对于朱可夫提出了要求一并照准，并任命朱可夫为新组建的第1集团军司令员。
整个七月和八月，得到加强的第1集团军兵力已经超过10万人，配备有500辆坦克、300多辆装甲车、500多门火炮和500多架飞机。为了实施进攻，苏军为前线储备了1.8万吨炮弹、6500吨航空弹、1.5万吨油料、4000吨食物和4000吨工程器材。
日军也在加紧向前线增派部队，包括2个步兵师团（第7和第23师团）、3个骑兵团以及一批炮兵部队。至7月底，日军共集结7.5万人、500多门火炮、182辆坦克和300多架作战飞机。