禧太后特别询问了有关法国和越南局势的情况。同年十一月十九日，他获得了“紫禁城内骑马”的特殊待遇，显示了他在朝廷中的地位。
到了光绪十年（1884年），曾国荃先是署理礼部尚书，随后不久便被调任两江总督兼办理通商事务大臣。同年夏天，随着中法战争爆发，他被任命为全权大臣，前往上海与法国驻华公使巴德诺进行谈判。然而，在谈判过程中，曾国荃的表现被认为不够强硬且缺乏技巧，他自己也承认不擅长这种外交交涉。最终，在李鸿章的建议下，他擅自答应给予法国五十万两白银作为“抚恤金”，但这个数额远远低于法国方面的期望，被视为“笑柄”。此事不仅没有解决争端，反而让曾国荃受到了朝廷的严厉批评，整个谈判以失败告终。
中法战争爆发后，法国军队开始侵扰中国沿海地区，朝廷内部对于是和是战争论不休。在这个关键时刻，曾国荃被委以重任，负责整治长江及海上防务。面对复杂的局势，他采取了谨慎的态度，利用上海作为国际商贸中心的地位，试图通过外交手段来缓和紧张局势，避免直接与法军发生冲突。同时，他也加强了军事部署，确保一旦战争爆发能够迅速应对。
在这一时期，朝廷派遣文臣前往沿海各省协助处理军务，这导致了一些省份的地方官员难以完全掌控兵权。对此，曾国荃向朝廷进言，强调权力不能分散，必须集中指挥才能有效应对危机。由于他是久经沙场的老将，朝廷对他格外倚重，并采纳了他的建议。
随后，朝廷命令曾国荃派遣兵舰支援台湾，以抵御可能的法军入侵。虽然曾国荃承诺派出五艘兵舰，但实际上只派出了三艘。这种做法引起了朝廷的不满，最终他因此受到了“革职留任”的处分。然而，即使如此，派出的兵舰也未能抵达台湾，其中两艘甚至返回到了浙江海域，并参与了镇海战役，取得了显着战功。随着中法两国迅速达成和平协议，这场短暂而激烈的战争终于告一段落。
光绪十一年（1885年），朝廷进行了京察（即对官员进行考核），鉴于曾国荃过去的功勋，仅对其进行了轻微的处分——开复处分，这意味着他的职务得以恢复，但之前的处罚记录仍然存在。此后，曾国荃继续担任要职，并在光绪十四年（1888年）成功平定了合肥西乡刘文弼