并非所有的道路从此就十分平顺，丁汝昌很快就遭遇了仕途上最大的坎坷：1874年，刘铭传收到朝廷“裁军节饷”的旨意，于是他准备裁撤丁汝昌所在的马队三营。可是，命令传达下去之后，丁汝昌却拒绝执行。刘铭传大怒，想按军法处决丁汝昌。丁汝昌一见势头不好，连忙逃回家乡避难，从此和刘铭传分道扬镳。
罢职回乡，丁汝昌只能靠家里的数亩薄田度日，虽然温饱没有问题，但是这种生活对于经历过戎马生涯和仕途荣光的丁汝昌来说，显然并不能让他称心如意。也恰恰是在这一时期，清朝廷开始筹备海防事宜，直隶总督兼北洋通商大臣李鸿章奉命督办。
丁汝昌之前曾经做过李鸿章的下属，他听到李鸿章督办北洋海防事务之后，特意前去投奔。
