经过此事，高拱对海瑞十分忌恨。没过多久。徐阶顶不住压力，黯然退休，高拱因为皇帝的信任，重新回到朝廷，进入内阁。当时江南土地兼并严重，各方面问题层出不穷，需要一位能臣前往治理，高拱看中了海瑞。为什么派他去呢？因为要利用他，好好整一整曾经的政敌。徐阶是前任内阁首辅，也是江南的大地主，手里掌握着几十万亩田地。别看他以前劝说皇帝，把景王霸占的土地还给农民，他自己也不干净，倚仗手里的权势侵占其他人的农田。隆庆三年（公元1569年）夏天，海瑞晋升都察院右佥都御史，巡抚应天十府，终于离开了北京城，回到南方做官。
应天十府的达官显贵听说海瑞来了，一个头，两个大，紧张得不得了。有些平时为非作歹的官吏，主动要求辞职，怕海瑞追究他们的过错；世家大族赶紧把红色的门弄脏点，显得不那么气派、奢侈、光鲜亮丽，否则海大人肯定会批评。那些喜欢讲排场的权势者，赶紧减少身边的随从，自觉保持低调。海瑞来到南京后，做了好几件大事。
第一件：整顿官场风气，刹住请客送礼、公款吃喝等不良风气。官员们要严格遵守纪律，杜绝各种灰色收入，清清白白做官，干干净净做人。命令一下，所有官员都沉默了，有的跑到其他地方暂避风头，有的赶紧收手。他们心里都十分讨厌海瑞，因为既得利益少了，该收的红包不能收了，可以享受的福利不敢要了。在他们眼里，海瑞就是个瘟神，自己不懂得享受，还不允许别的同事享受。