乡送母亲。五年后，即康熙二十五年（1686年），李光地返回京城，被授予翰林院掌院学士之职，负责御前讲席的工作，并兼任日讲官和起居注官，同时指导庶吉士的学习。然而，仅过了一年，由于母亲病重，李光地上书请求回家探望。
康熙二十七年（1688年），李光地返回京城。当时正值孝庄文皇后丧期，礼部官员弹劾李光地，指责他归京途中迟延，身为三品官员未能及时来京叩谒孝庄文皇后梓宫。礼部建议降级使用，但康熙帝宽恕了他。
到了康熙二十八年（1689年）五月，李光地的一篇奏章引起了康熙帝的不满，皇帝指责他假冒道学，不能成为翰林的表率，并将他降为通政使司通政使。然而，仅仅过了几个月，李光地就在同年十二月被重新擢升为兵部右侍郎。
康熙三十年（1691年）二月，李光地担任会试副考官，并与侍郎博霁、徐廷玺以及原任河督靳辅一起视察黄河工程情况。康熙三十三年（1694年）正月，他奉旨提督顺天学政。同年四月，李光地的母亲去世，按礼制他需解职回乡守丧。然而，康熙帝认为提督顺天学政一职至关重要，特许李光地在任守制。尽管如此，李光地还是请求康熙帝准予九个月假期以便返乡治丧。
康熙三十五年（1696年），李光地服丧期满，康熙帝命令他官复原职。次年，李光地被任命为工部左侍郎，仍兼任顺天督学。康熙三十七年（1698年）十二月，因“居官优善”、“清廉”，李光地被提拔为直隶巡抚。在任期间，他有效治理了当地的水患问题，得到了康熙帝的高度赞扬，并不久后被拔擢为吏部尚书。
康熙四十年（1701年），李光地主持的永定河河务工程顺利竣工，为此，康熙帝亲自题写“夙志澄清”的匾额，并赐予御制永定河诗、御服衣冠等珍贵赏赐。
然而，李光地的官场生涯并非一帆风顺。康熙四十三年（1704年）三月，给事中黄鼎楫、汤右曾等人联名弹劾李光地，指责他抚绥直隶灾民不力，没有如实上报灾民逃散的情况，请求朝廷给予严惩。同年八月，御史吕覆恒弹劾李光地在处理秋审事宜时任意断决，给事中王原也弹劾李光地荐人不当。尽管如此，这些弹劾大多被康熙帝否决。
在担任吏部尚书期间，