自任内阁首辅以来，张居正的权势地位日益提高。万历三年(公元1575年)八月，他荐举吏部左侍郎张四维为礼部尚书、东阁大学士。按惯例一般任命阁臣，诏书只讲“同某人(指首辅)办事。”而在这一诏书上，神宗却亲笔注“随元辅(张居正)入阁办事”。实际上是将张居正与原属同僚阁臣相区分开，主从地位有别。甚至张居正回乡办丧事，神宗告诫次辅吕调阳等阁臣，有大事不得独断，要速报江陵，“听张先生处分”。并赐张居正银印，上刻“帝赉〔lai赖〕忠良”字样，可以密封启事。足见神宗、李太后多么信赖他。张居正以“元辅少师先生”的双重身份临朝秉政，当时所颁发的各种诏令、谕旨，实则都是他的思想和主张。这也是张居正改革措施能够顺利推行的重要前提。

应当说张居正改革伊始，就遭到了一些腐败官僚的反对。他整顿吏治，罢除冗官，各衙门官职缺额减少，等候补缺的生员不能尽用，许多人都怨恨他。清丈土地，调整赋役制度，国家赋税增多，而豪强地主的利益受到一定损害，因而对张居正非常仇视，暗地攻击他专权放纵。其中多数人是对张居正改革持否定态度的保守派。然而，张居正并没有置之不理。

万历三年(公元1575年)，南京户科给事中余懋〔mao茂〕学上疏指出考核官吏过严，请行宽大施行。张居正将他革职为民。接着，御史傅应祯又上《重君德、苏民困、开言路疏》，疏中对“余懋学陈时政而锢之终身”提出异议，要求广开言路。文中流露出对张居正当国的不满情绪。张居正下令将他逮捕入狱，发配浙江定海。次年正月，他的门生巡按御史刘台越制奏报辽东战事，遭到他的斥责。刘台不服，上疏弹劾张居正“专擅威福”、“罔上行弘，横黩无厌”(《明史纪事本末》卷六十一《江陵柄政》)。张居正阅后大怒。神宗降旨将刘台下狱，廷杖一百，发遣戍边。从此，诸给事中、御史更加畏惧张居正，而心中不平。

万历五年(公元1577年)九月，张居正的父亲张文明老死于故里。依封建礼制，官员遭父母丧亡，必须去职回家守制，服丧27个月，期满后复职，叫作“起复”。但朝廷对大臣要员，也可命其不必去职，著素服办公，不参加吉礼；或守制尚未到期应朝廷之召出来任职，称为“夺情”。围绕着张居正是回江陵守制服丧，还是留在朝廷夺情任职的事情，在朝中引起了一场波澜。张居正坚持疏请回籍守制，而14岁的神宗执意留他在官守制，可不到朝，不领薪俸。但不少朝臣联名上疏反对这种作法，说他“忘亲贪位”。张居正十分恼火。因这件事翰林院编修吴中行、检讨赵用贤、刑部员外郎艾穆、主事沈思孝分别被黜职，逐出京师。继而，又将为吴中行等四人鸣冤叫屈的日讲官许文穆、观政刑部的新进士邹元标治罪。当时，京城的士人对这样处理官员都很气愤。有人甚至将毁谤之文贴在长安门，说张居正要谋反。神宗听说后，当朝宣谕再有言及夺情事者，定罪不饶，这场风波才稍息。

张居正受顾命，任首辅，又为幼主神宗之师。为了将神宗培养成圣明贤君，张居正呕心沥血，下了很大功夫。他除了进讲《四书经解》，修明圣学外，还讲解朱元璋口述的《皇陵碑》，并将亲自挑选的古代帝王值得效法的81件事和应引以为戒的36件事，绘成《帝鉴图说》，逐页指陈大义，启发圣心。神宗非常敬重他，手诏中曰“元辅”，称“太师”，呼“先生”，皆尽古代师臣的礼节。万历八年(公元1580年)三月，56岁的张居正认为，鸿典毕成，神宗已长大成人，可以亲政。于是，上了《归政乞休疏》，诚请归老江陵。神宗恳切慰留，最后手书传皇太后口谕，张居正方复就职。

张居正任首辅以来，官爵历任少师兼太子太师，吏部尚书兼建极殿大学士，中极殿大学士、光禄大夫、左柱国、太傅太师，可谓荣集一身。万历十年(公元1582年)三月，张居正已身染疾病，再次请求休致，神宗仍未谕允。六月二十日，张居正病逝，终年58岁。赠爵上柱国，谥号文忠，归葬故乡江陵。

张居正性情深沉机警，多智谋，办事果断。权势渐大后，他逐渐刚愎自用，听不得相反的意见。改革中对官僚、豪强大地主的切身利益多有触犯。特别是辅弼神宗，对他各方面要求甚严。例如，一次日讲，神宗将《论语》中“色勃如也”句中的“勃”读成了“背”。张居正在一旁厉声地说：“应作勃字！”从此，神宗比较畏惧他。稍长，神宗越发感到张居正对自己的约束太紧。张居正死后，一些官员接连上疏弹劾他。不久，吴中行、赵用贤等人亦官复原职。万历十一年(公元1583年)三月，神宗下诏免去张居正的太师和上柱国的爵号，夺去“文忠”谥号，籍没抄家。

明代当政的内阁大学士(宰辅)共170余人，张居正的政绩最出色，他的改革在当时社会影响很大。时人称赞他“殚精毕智，勤劳于国家”，“工于谋国，拙于谋身”。熹宗天启二年(公元1622年)，在廷臣邹元标等人的请求下，朝廷为张居正平反昭雪，恢复被神宗削去的一切功名。