根据丰臣秀吉的遗嘱，德川家康以五大老首席的身份代理国政，前田利家（まえだとしいえ）则担任丰臣秀赖的监护人。
但德川家康随后开始着手谋求天下，庆长四年（1599年），前田利家去世，德川家康逐渐暴露自己夺取天下的野心。同年在大坂城祝贺丰臣秀赖时，德川家康察觉了对自己的暗杀计划，主谋者是前田利长、浅野长政、大野治长及土方雄久。大坂城内要求讨伐前田利长的声势高昂。德川家康在准备出兵之际，前田利长将他的生母芳春院送往江户城成为人质，事件得以平息。总之，德川家康降服了前田家，并通过拉拢北政所取得武功派诸侯的好感，广泛与武功派诸侯私下结亲，逐渐成为武功派的“后台”和北政所仰赖的丰臣家的“扞卫者”，从而利用武功派和文吏派之间的矛盾削弱丰臣家的实力。
德川家康在丰臣秀吉病逝前，安排与部分大名进行婚姻，又在丰臣秀吉死后，私自分封领地；因此开始造成其他中老和奉行的不满，尤以石田三成为甚。石田三成的行动惹来了加藤清正、福岛正则，加藤嘉明，细川忠兴，黑田长政，池田辉政，浅野幸长七将袭击。石田三成提前洞察后逃至自己的政敌德川家康在伏见的公馆内，两人之间开始了博弈，石田三成料定德川家康不会杀他，德川家康考虑到未来必然爆发战争，所以需要石田三成作为自己的对立面使矛盾激化促使全国大名表态站队，进而德川家康便可以通过战争消灭对自己有二心的大诸侯，故而石田三成的存在会促使憎恨石田三成的武功派团结在自己身边成为帮助德川家康夺取天下的棋子，综合以上考虑德川家康也庇护了石田三成，命其闭门反省。在德川家康安排下，石田三成在佐和山城隐居。德川家康继续在伏见城及大坂城执行政务。
不过，不满德川家康的声音并没有减退，户泽正盛汇报东北地方大名、五大老之一上杉景胜积极进行军备，行动极不寻常，德川家康派遣使者要求上杉景胜汇报甚至迫使上洛。上杉景胜没有理会警告，而且其家臣直江兼续写了《直江状》指责德川家康，德川家康看过后大怒，终发表讨伐上杉景胜的宣言。虽然五奉行中的前田玄以、长束正家和增田长盛以及三中老的中村一氏及生驹亲正要求中止出征，但德川家康决意行动，庆长五年（1600年）六月十六日由大坂城出发，并于于七月二日到达江户城。而被革职的石田三成却私下联合其余奉行以及位列五大老的毛利辉元、宇喜多秀家及其他反对德川家康的诸侯密谋起兵，当德川家康前往会津途中，以毛利辉元为名义领袖的西军在关西组建成立。并且很快在畿内地区起兵，并占据大坂。庆长五年（1600年）七月十八日，西军包围伏见城，并开始进行攻击。七月二十四日，德川家康抵达小山的时候，斥候汇报了石田三成起兵的举动。德川家康于次日进行小山评定，大部分的随行大名支持德川家康的行动，并立即折返到江户城。八月一日，西军经苦战攻下了伏见城，死守了伏见城十五天之久的德川老臣鸟居元忠剖腹自尽。东军则随即进攻美浓，消灭西军方的织田秀信，双方在美浓地区对峙。八月，德川家康回到江户城，并派遣先锋部队在东海地方及东近畿地方交战。德川家康坐镇江户观望局势，在确信在伊达政宗、最上义光和佐竹义宣的攻击下，上杉景胜无法对关东产生威胁以后，德川家康便与其子德川秀忠从江户出发，共率军6.8万，德川家康于当年九月一日挥军美浓，并于九月十四日到达美浓。
庆长五年（1600年）九月十五日，双方在关原（せきがはらちょう，今岐阜县不破郡关原町）交战，最初的形势对德川军不利，西军逐步进迫到本阵；不过到了中午左右，西军的小早川秀秋受到德川军恐吓射击后叛变支持德川军，形势得以扭转。最后德川军轻松在此场战争取胜，而石田三成在关原之战失败后不久被捕获，和小西行长、安国寺惠琼一起被处斩于京都六条河滩。自此权力落在德川家康之中。德川家康消灭了敌对诸侯，为德川家制霸天下奠定了必要的基础。
关原合战（せきがはらのたたかい）は后，德川家康积极处理政务，调配大名间的领土，而且经常在京都活动。为了成为“征夷大将军”，他尝试将德川氏的系谱改变（其实从“松平”改为“德川”时就早已改变了）。庆长八年（1603年）二月，后阳成天皇派使者到达伏见城。德川家康被朝廷任命为征夷大将军、右大臣、[28]源氏的长者（即源氏的族长、家主）。同年，他在江户开幕，创立江户幕府（えどばくふ），也称为德川幕府，开始了德川家族长达260多年的统治。同年将孙女千姬嫁给丰臣秀赖以示友好。
庆长十年（1605年），德川家康退位给三男德川秀忠，被人称为“大御所”。德川家康表面上在骏府城隐居，但实际上仍然掌握大权，在冈本大八事件和大久保长安事件之中均由德川家康作主导。庆长十七年（1612年）颁布的禁教令，从1615年开始对朱印船贸易的限制。
庆长十九年（1614年）的方广寺钟铭事件中，德川家康借口钟铭内文有对德川家不利的文句，尝试迫使丰臣秀赖完全臣服；但是丰臣方摆出备战的姿态：丰臣军积极招募浪人，加强军备。但却没有大名加入大坂方（除了阿波的蜂须贺家政，但他被家督至镇劝说而放弃举兵），致使德川家康下令大名准备攻击大坂城。德川军在十一月十五日开始进行攻击，并步步进迫，迫使丰臣的军队撤回大坂城内，十二月四日前田军和松平军擅自攻击真田丸，遭到号称日本第一神兵的真田幸村猛烈反抗，结果大败。德川家康最终利用大炮直接攻击大坂城，迫使淀殿（丰臣秀赖的母亲淀夫人）提出交涉，双方达成协议，大坂方面要求德川不得处分秀赖等参战诸将，丰臣秀赖、淀殿不用前往江户作人质，德川家康看似宽大的爽快答应，唯一的条件是：将大坂方面除了本丸外所有外城一并拆除。战事暂告停止，称大坂冬之阵。