中央红军先遣部队分别于1935年1月2日、1月3日于回龙场、江界口胜利渡过乌江，敌人吹嘘的“重叠坚固，可保无虞”的乌江防线顷刻被瓦解。

1月4日，红一军团红二师红六团接受了夺取遵义的任务。这时据守遵义的敌军是贵州军阀王家烈所统率的一部。由于贵州地处边远，加上当地十分贫穷，王家烈在统治贵州时，为了筹足军饷，就对当地的烟土走私和买卖不但不打击，还加以保护，以便从中获取暴利。由于这一原因，贵州的军队大多吸食鸦片，所以贵州军阀王家烈的部队被称为“双枪兵”，即步枪和鸦片枪。那个时候对于敌军各部流传一个说法：滇军黔军两只羊，湘军就是一头狼。所以，防守遵义的黔军的战斗力是非常差的。

红六团团长朱水秋、代理政委王集成，在进军遵义途中对如何夺取遵义作了认真的考虑，他们认为遵义守敌尽管战斗力不强，但敌人是以逸待劳，地形熟悉，所以红军还须认真对待。他们对攻城的兵力部署、政治工作、物质保障等，都作了周密的考虑。在白日行军途中，朱水秋团长和王集成政委把五万分之一的地图摊在马颈上，二人开始“鞍上办公”。研究的结果，确定红军一、二营为突击营，从遵义城东、南两面突进城去；三营为预备营。当晚，他们在距离遵义45公里的团溪宿营。第二天凌晨，红军总部参谋长兼军委纵队司令员刘伯承风尘仆仆地从总部赶来。他一见到王集成政委，就急切地问道：“你们打遵义有把握么？”王集成回答：“没有问题，王家烈的部队我们领教过，一定能攻进去！”刘伯承点头同意并进一步指示：“我们的日子是比较艰难的，要求仗打得好，还要伤亡少，又要节省子弹，这就需多用点智慧了！”

1月6日上午，红六团由团溪经龙坪向遵义疾步挺进。午后，当红军部队挺进到深溪水时，侦察员报告：在距离遵义15公里的地方，发现敌人的外围据点，驻有一个多营的兵力。当时，刘伯承指出：要全歼这里的敌人，不准有一个漏网；否则，走漏了风声，就会影响红军攻打遵义。红六团的领导经过研究，立即把部队分为两路，像一把钳子，迅速把这个庄子包围，趁着大雨打了进去，敌营长被击毙，其余无一漏网。

为了进一步掌握遵义城的敌情和地形，他们从俘虏群中挑出一个连长，一个排长和十几个出身较贫寒的士兵进行谈话，讲明我党的政策，说明红军是打军阀、地主，为穷人谋利益的队伍。经过耐心说服教育，消除俘虏的顾虑后，就明确地告诉他们：红军今天就要打遵义，谁了解遵义的情况，应当详细报告我们，说得对的事后有赏。俘虏中那个连长一听，急忙站起来说：“长官，红军对我们这么好，小人愿效劳！”接着，他把遵义城内的工事，守城的兵力，以及城防部署，敌军装备都一一讲了，并画了一幅城防要图。

遵义城的底细摸清楚了，朱团长和王政委商定化装去诈城，打个便宜仗。他们把这个打算报告刘司令员，刘伯承非常满意。最终决定这出戏由一营长曾宝堂来演。由他带领三连和侦察排，又在全团挑选了20多个司号员，个个都是敌军士兵打扮，由十几个经过教育愿为红军效力的俘虏带路，其他部队跟在后面，做好两手准备，如诈城不成，便强攻上去。

晚上9点多钟，红六团冒着大雨出发了，进行了几个小时的急行军，因路太滑，每个人都摔了几跤，变成了泥人。1月7日凌晨，快到遵义城时大雨停了，从夜幕中看见半空中吊着一盏灯。这时，曾宝堂指挥红军战士扮作从前线溃退下来的黔军来到遵义城下，一出智取遵义城的好戏开演了。时任红六团政委的王集成在回忆录中写到：当城楼上的守敌发现曾宝堂他们时，气氛顿时紧张起来。“干什么的？”城楼上发出一句凶狠的问话，随之枪栓也拉得哗啦哗啦直响。“自己人！”被红军抓住的俘虏用贵州话从容地回答。“哪一部分的？”城楼上又问。这个俘虏的连长就按红军事先给他安排的内容，讲了一遍。城上还不放心，左考问，又考问，还射下几道手电光，认真查看。直到守敌确认城下是“自己人”后，才打开了城门。开城门的守敌还恐慌地问红军侦察排的同志：“怎么红军已经过乌江了？来得好快呀！”侦察排的战士就答：“是呀！现在已经到了遵义城。”说着就把枪对准了敌人的脑袋，严厉地说：“告诉你们，我们就是中国工农红军！”两个守敌吓得“啊”了一声，瘫在地上。大幕拉开了，好戏开始登场。二三十个司号员一起吹起了冲锋号，六团大队人马顺势涌进城里，顿时，遵义城里热闹起来。激昂嘹亮的军号声中夹杂着惊心动魄的枪声，英勇杀敌的呼喊，混合着敌人的惨叫，大多数敌人还没有来得及穿好衣服就当了俘虏，只有少数敌人狼狈不堪地从北门逃走了。

1月7日凌晨，黔北重镇遵义城被攻占了。

红军进入黔北各城市之前，为了保证执行工农民主政府的各项政策，更好地争取群众、组织群众，扩大红军影响，曾制订了《关于进入城市执行政策的规定》，要求红军部队严格遵守，不得侵犯。

红军先头部队夺取遵义时，正值半夜，红军战士没有敲群众的门，而是怀抱武器，顶着寒风在屋檐下休息。第二天群众起来，出门后看到围坐在屋檐下的红军战士，深受感动。

耿彪、杨成武率领的红二师红四团也于当日早晨进抵遵义。杨成武说：“经过战斗的洗礼的遵义城，沐浴在朝霞中，我们看到街道宽阔，店铺很多，有的已经开始营业，鲜红的橘子，松软的蛋糕——真是琳琅满目，呈现着独有的景象。”这让整日钻在大山里打仗的红军战士备感新鲜，而更新鲜的事是好奇的学生围住战士们要看“水马”。原来王家烈的黔军为了掩盖自己的无能，编造出红军有“水马”，过江不沉底，上城不用梯子，子弹打不透，把红军吹得神乎其神。难怪老百姓涌上来围观。

1月9日下午，当红军的领导人及大部队要进城的消息传来时，群众纷纷组织起来，兴高采烈地赶到城外欢迎红军进城，满街贴满了“欢迎红军”、“红军是保护老百姓的军队”等标语。大部队在鞭炮声、口号声以及群众的欢呼声中，浩浩荡荡地开进了遵义城。