霍光，骠骑将军霍去病的异母弟，父亲是霍中孺，河东郡平阳县人，以县吏的身分替平阳侯家办事，跟侍女卫少儿私通生下了霍去病，之后便没怎么联系过。元狩二年（前121年），霍去病被拜为骠骑将军，在出击匈奴的途中，与霍仲孺父子相见。出征凯旋时，再次拜访霍仲孺，并将异母弟弟霍光一起带到长安照顾。
巫蛊之祸，太子刘据自杀身亡，汉武帝失去了最有资格，最有能力的继承人，只能选择幼子刘弗陵，霍光就是在这样的背景下，登上了历史舞台。
去母留子
汉武帝后元元年（前88年）。钩弋夫人所生的皇子刘弗陵才几岁大，但身体壮硕高大，很懂事，汉武帝特别疼爱他，想立他为太子。因他年纪小，母亲年轻，因此犹豫不决。
汉武帝想派合适的大臣辅佐他，探察群臣，只有奉车都尉、光禄大夫霍光，忠厚可担当大事汉武帝于是让黄门画了一幅周公背负周成王朝见诸侯的画赐给了霍光。
过了几天，汉武帝借故谴责钩弋夫人，夫人摘掉头上的装饰，叩头。汉武帝说：“拉下去，送到宫里的监狱。”钩弋夫人回头看着皇帝，汉武帝说：“快走吧，你活不下去了”最终将她处死。没过多久，汉武帝空闲之时，问周围的人说：“外面人对这件事都说什么了？”
周围的人回答说：“人们说‘既然立她的儿子为太子，为什么将他母亲杀了’。”汉武帝说：“对。这不是你们这些愚蠢的人所能知道的。自古以来国家之所以发生混乱，都是因为国君年纪小，母亲年轻。女主一人独居骄横，就会荒淫秽乱，恣意妄为，没人禁止得了。你没听说过吕后的事吗？所以不得不将她先除掉。”
受诏辅政
后元二年（前87年），春二月，汉武帝病的很重，霍光流着泪问道：“陛下万一有所不测，由谁来继承皇位呢？”
汉武帝说：“你真的没理解以前我赐给你那幅画的意思吗？立幼子刘弗陵。你像周公那样辅佐他。”
霍光叩头推让说：“我不如金日磾。”
金日磾也推辞说：“我是个外国人，赶不上霍光，而且由我辅佐会使匈奴轻视汉朝啊。”
乙丑，汉武帝颁布诏书立刘弗陵为皇太子，只有八岁。丙寅，汉武帝任命霍光为大司马、大将军，金日磾为车骑将军，太仆上官桀为左将军，三人共同接受遗诏辅佐幼主。又任命搜粟都尉桑弘羊为御史大夫。他们都是床下拜叩接受遗命的。丁卯，汉武帝驾崩于五柞宫。戊辰，太子刘弗陵即皇帝位。
汉昭帝刘弗陵的姐姐鄂邑公主陪他一起住在寝宫中，负责抚养照顾，霍光、金日磾、上官桀一同主管尚书事，主持朝政。霍光辅佐幼主，朝廷政令都由自己这里发出，天下人都想一见他的风采。宫中曾出现怪事，一天夜里，群臣都为怪事惊慌不安，霍光在慌乱中召见尚符玺郎，想收回御玺。尚符玺郎不肯给他，霍光想夺取。尚符玺郎手持宝剑严肃地说：“我的头你可以拿到，但御玺你不可以哪去。”霍光非常赞赏他的尽忠职守。第二天，下令将尚符玺郎品秩提了两级。众人也为此更加敬重霍光。
执掌大权
汉昭帝始元二年（前85年），春季，正月，汉昭帝封大将军霍光为博陆侯。
这时有人劝霍光说：“将军没听说过吕氏一族的故事吗？他们处在伊尹、周公的地位，摄政擅权，疏远刘氏皇族不与他们共事，所以天下人不信任吕氏一族，最终遭到灭亡。如今将军身居显要地位，皇帝年幼，应接纳皇室成员，多与朝廷大臣共商大事，一切与吕氏处事的方法相反，这去做，就可以免除祸患。”霍光认为有道理。
汉昭帝元凤元年（前80年），冬季，十月，大将军霍光因在朝中见不到旧臣，而光禄勋张安世在汉武帝时就任尚书令，志向行为纯正真诚，于是奏请汉昭帝任命张安世为右将军兼光禄勋，作为自己的助手。张安世，是前御史大夫张汤的儿子。霍光又以杜延年有忠诚志节，提升他为太仆、右曹、给事中。