几年里鲜有公开活动。
直到同治十三年（1874年），曾国荃才重新受到朝廷重视，奉旨进京觐见。恰逢此时，同治帝驾崩，光绪帝即位。在新的朝局下，曾国荃得到了重新起用的机会。光绪元年（1875年）二月十五日，在召见奏对后，他被任命为陕西巡抚，不久后又改任河东河道总督，负责治理黄河泛滥的问题。在他的努力下，黄河流域的水患得到了一定程度的缓解。
光绪二年（1876年）八月九日，曾国荃接替因病辞职的鲍源深出任山西巡抚。尽管他起初也因健康原因请求辞去职务，但在次年还是正式上任。这一时期正值华北地区遭受严重旱灾，史称“丁戌奇荒”。面对这场波及数省的大饥荒，曾国荃积极组织赈济工作。除了利用中央政府提供的资源外，他还向其他省份借贷，并号召社会各界捐款支援救灾。通过这些措施，共筹集到一千三百万两白银和二百多万石粮食，挽救了大约六百万人的生命。灾后，他还采取了一系列减轻民众负担的政策，如减少徭役、节省开支等，使得山西成为当时各省赈灾工作的典范。民众对他感激不尽，甚至为他立生祠以示敬意。
在外交方面，曾国荃也有一定的贡献。例如，在光绪四年（1878年），他提议严格禁止山西境内种植罂粟，一旦发现违规行为即将相关土地充公。此外，在中俄关于新疆问题的谈判过程中，他还秘密上书提出了加强边防的战略建议，显示出他对国家安全的关注。
光绪六年（1880年），由于旧疾复发，曾国荃再次请辞并获得批准休养。不过，很快他就又被召回京城，并在同年六月被派往山海关督办防务，应对日益紧张的中俄关系。尽管身体状况不佳，曾国荃依然尽职尽责地完成了任务，并受到了朝廷的高度赞扬。
光绪七年（1881年）二月一日，曾国荃被补授陕甘总督兼兵部尚书衔，但由于健康问题未能立即赴任。此后不久，他又被任命为两广总督，当时正值中法之间因越南问题关系紧张，战争一触即发。身处前线的曾国荃采取了相对保守的态度，主张避免直接冲突，保持和平状态。他认为广东军队不应主动出击，而是要隐秘地展示军事准备的姿态。
光绪九年（1883年）七月，曾国荃卸任两广总督，并前往北京觐见。慈