虚心、张廷珪也很器重他。
李泌成年后，非常博学，擅长研究《易经》。他经常游历嵩山、华山、终南山之间，仰慕神仙不死之术。
天宝十载（751年），隐居嵩山的李泌向唐玄宗献上《复明堂九鼎议》，唐玄宗想起李泌的“早惠”，于是召他入朝讲授《老子》。因其讲解“有法”，唐玄宗李隆基命他待诏翰林，供奉东宫，太子李亨待李泌极为优厚。
李泌曾经写诗讥诮宠臣杨国忠、安禄山等，李林甫、杨国忠都忌之。杨国忠于是诬称他曾写《感遇诗》讽刺朝政，结果李泌被送往蕲春郡（今湖北蕲春）安置。此事之后，李泌因遂告归，隐居颖阳。
至是安史之乱爆发后，唐玄宗李隆基仓皇出走，太子李亨在灵武（今宁夏灵武）即位，是为唐肃宗。
唐肃宗即位后，思念旧交，于是派人四处寻找李泌，恰好李泌也来到了灵武。唐肃宗李亨立刻和他商讨当前的局面，他便分析当时天下大势和成败的关键所在。
唐肃宗李亨很高兴，要给他授任官职，李泌自称山人，坚决推辞，只以白衣随驾。
一日，唐肃宗李亨与李泌并马而出，巡视军营。
军士们窃相指道：“黄衣的是圣人，白衣的是山人。”
唐肃宗李亨微闻此语，因而谓李泌道：“艰难之际，不敢以官职相屈，但且衣紫，以绝群疑。”
唐肃宗李亨遂令人取出紫袍赐之，李泌只得拜受，肃宗即令左右人为之换服。
李泌换服讫，正欲谢恩，唐肃宗李亨笑道：“且住，卿既服此，岂可无称？”乃于袖中取出敕书一道，以李泌为参谋军国元帅府行军长史，李泌犹固辞，唐肃宗李亨道：“朕非敢相屈，期共济艰难耳。候贼平，任行高志。”李泌拜受命。
唐肃宗李亨欲以建宁王李倓为大元帅，李泌说道：“建宁王杲堪作元帅，然广平王居长；若建宁王功成，岂可使广平王为吴泰伯？”
唐肃宗李亨说道：“广平王系家嗣，何必以元帅为重？”
李泌道：“广平王未正位东宫，今艰难之际，人心所属在于元帅，若建宁大功既成，陛下即欲不以为储贰，彼同立功者，其肯已乎？太宗、上皇即其事也。”
唐肃宗李亨点头道：“卿言良是，朕当思之。”李泌退朝，建宁王迎谢道：“顷传闻奏对之言，正合吾心，吾受其赐矣。”
李泌道：“殿下孝友如此，真国家之福也。”
于是唐肃宗李亨以广平王李俶为天下兵马大元帅，郭子仪、李光弼等所部之军，俱属统率。
当时李光弼驻防太原，其麾下精兵俱调往朔方，在太原者仅万人。时值至德二载（公元757年）正月，叛军史思明、蔡希德等发兵十万进攻太原，并企图占领太原后，由北道夺取灵武。
当时李光弼手中只有不满万人的弱卒，听闻史思明即将攻打城池，都感到非常害怕，想要筑墙抗敌。
李光弼对士兵们说道：“太原城方圆四十里，叛军快到了才修墙，只能空耗人力。”
在兵力悬殊情况下，李光弼一面防御固守，一面守中有攻。他让战士从城中挖地道通城外，打击敌军；他还在城上安装石炮（抛石器），击毙大量叛军；地道后来挖到史思明大营，俘斩叛军一万多人。
此时，叛军内讧，安庆绪杀父安禄山，自立为帝，史思明退兵范阳，留驻的蔡希德等人疲惫不堪。
贼围攻月余，无隙可乘。李光弼访得钱冶内有铸钱的佣工兄弟三人，善穿地道，以重赏购之，使率其伙伴，掘地道以俟贼。有贼将于城下仰面侮骂城上人。
李光弼即遣人从地道拽其足而入，缚至城上轿之，自此贼行动必低头视地。李光弼又作大炮，抛飞巨石，每一发必击死十几人，史思明乃引众士兵纷纷遁去。
李光弼上表奏捷。
广平王正以太原要地被围，欲遣兵往救，因得捷