，俾斯麦便以此借口，指责奥地利毁约，并于同年6月对奥宣战。意大利亦依据攻守同盟条约，同时对奥宣战。
不久，普鲁士便征服北德的亲奥小邦，并在萨多瓦会战，最后导致奥军战败。
这时，俾斯麦决定与奥讲和，而不是乘胜追击，因为他明白对于普鲁士最有利的做法不是消灭奥国，而是将奥地利逐出日耳曼联邦，并且让其作为抵挡俄国西进的屏障。
因此，他在该年8月23日签订的《布拉格条约》中给予奥地利极为宽容的讲和条件，以便于保持对奥的良好的关系。
普奥战争结束后，妨碍德国统一的就只剩下在背后控制着南德诸邦的法国了。
由于法国仍然在幕后操控著南德意志地区的各个邦国，阻碍德国统一。因此，俾斯麦以西班牙王位继承问题制造争端，逼使法皇拿破仑三世对普宣战，而普鲁士则借此团结德意志民族，对法国发动进攻，拿破仑三世投降。随后普军进军至巴黎，协助巴黎新成立的国防政府消灭巴黎公社，以获得了大量赔款。
最后，普鲁士国王威廉一世在法国凡尔赛宫的镜厅中登基，宣布德意志帝国成立，并从法国获得阿尔萨斯和洛林两地及50亿法郎的战争赔款。
虽然德国统一了，但俾斯麦仍需面对众多国内外问题，因此他采行内、外两种态度理政。在德意志帝国内，他依然保持高压强横的作风，打压天主教与左派劳工；国外方面，他避免树立外敌，自称“诚实经纪人”来协调欧洲大国的纷争，表现出与过往“铁血宰相”完全相反的姿态和风格。
在国内问题方面，首先在1871年至1877年间的“文化斗争”中，与罗马教廷互相攻击，最后以双方互相妥协结束。再在1878年随即开始“围剿左派”，制定《反社会主义非常法》，以打压社会民主党。但同时间，他亦制定了很多保障工人的措施，来进行拢络，虽然很多只属表面性质，但仍使德国成为世界上第一个拥有劳工立法的国家。
在国外问题方面，自德国统一后，俾斯麦便不希望再有对外战争，以便让德国可以休养生息，培养国力。
1888年3月9日，91岁的威廉一世逝世，其子腓特烈·威廉继位，称为腓特烈三世，但在即位99日后随即病故。结果其子威廉二世继位，时年29岁。这位年少气盛的少年皇帝不甘受制于俾斯麦，与他在很多问题上出现分歧。而已达73岁高龄，更已执政长达26年的俾斯麦明白了鸟尽弓藏、兔死狗烹的道理，心灰意冷地向威廉二世呈辞，正式下野。
之后，他长居于汉堡附近的弗里德里希斯鲁庄园，著作回忆录《思考与回忆》，将各个历史事件渲染地过于戏剧性，而总是将其中自己的形象塑造得非常好而饱受非议。
1898年7月30日，这位名震天下的铁血宰相俾斯麦悄然离世，享寿83岁。
俾斯麦离世后不久，俾斯麦的政敌便迅速清除了他在政界中的势力，改革从此终止，德国走向了俾斯麦生前一直努力控制及防止的军国主义，最终在1914年爆发了第一次世界大战。
第一次世界大战后，战败的德国一直想摆脱《凡尔赛和约》的限制，开始对建造3.5万吨的战列舰进行了理论性研究，并对其武备、装甲和航速进行了可行性论证。
在纳粹德国宣布撕毁《凡尔赛和约》之后，1935年与英国签订《英德海军协定》。德国海军开始准备建造俾斯麦级战列舰。英国曾要求德国将该型舰的排水量限制在35000吨，但德国以其不是《华盛顿海军条约》签字国为由断然拒绝。
早在1930年代，德国海军司令埃里希·雷德尔认为35，000吨级的军舰无法满足德国的