在登基后的第6年，约瑟夫迎娶了自己的表妹――16岁的巴伐利亚女公爵伊丽莎白，也就是人们广泛所熟知的茜茜公主。
伊丽莎白的美貌和独有的温柔气质，让约瑟夫为之倾倒，以至于半天见不到她，约瑟夫就觉得心神不宁，无心处理国事。可是皇太后索菲却不喜欢伊丽莎白，她把伊丽莎白带来的佣人都打发走了，处处为难她。
虽然在治国上，约瑟夫很有才能，但面对妻子和皇太后的不和，他却显得手足无措。无奈之下，伊丽莎白只得选择外出度假，以避免抑郁症的发生。
伊丽莎白离开后，约瑟夫陷入了对妻子的无尽思念中，以至于无论每天公务有多繁忙，他都要雷打不动地抽出时间来给妻子写信。逃离大内深宫的羁绊和婆婆的刁难，伊丽莎白从此沉迷于旅行之中，一年之中有近十个月的时间都在外面游走。
为了转移对妻子的思念，约瑟夫只好拼命地工作，他重新规划了维也纳，将城区的面积扩大了好几倍，并且修建了环形大道，他还从丹麦、德国请来众多优秀的设计师，为维也纳修建起一座座宏伟的建筑。维也纳人民歌剧院、国家歌剧院、艺术博物馆都是在此时建立起的。此外，约瑟夫在阿尔卑斯山上建成了第一条铁路，打通了意大利和维也纳之间的道路，他鼓励不同城市之间的人互相流通，开展经济合作。
约瑟夫还是欧洲新文化运动的先驱者，他将维也纳建设成一个包容的艺术天堂，吸引来了诸如卡夫卡、弗洛伊德、小约翰・施特劳斯、古斯塔木・克林姆等众多文学和艺术大师，进行创作和发展，著名的音乐《蓝色多瑙河》就是施特劳斯在约瑟夫特意要求下创作出来的。
更让约瑟夫难受和悲凉的是，鲁道夫在死前给密友和母亲伊丽莎白等人都写了长长的遗书，唯独没有给作为父亲的他留下任何只言片语，他不明白儿子为什么去得那么决绝。
唯一的儿子死后，约瑟夫只得将皇储传于自己在这个世上的唯一亲人、侄子―――弗朗茨・费迪南。
可不幸远没有就此停止，在失去鲁道夫的第9年，约瑟夫再次永失所爱―――1898年9月9日，妻子伊丽莎白被意大利的一名无政府主义者用匕首刺中了心脏，不治而亡。
获悉妻子离世的消息后，已经68岁的约瑟夫老泪纵横，他在日记中这样写道：“大家都不在了，只有我还活着，像一个找不到家的孤魂。”
好在，侄儿费迪南及其妻子对约瑟夫非常关心，他们像对待自己的亲生父亲一样，处处给约瑟夫极大的亲情关怀以及治理国家上的支持，终于让约瑟夫一点一点地从丧子和丧妻的悲痛中走了出来。
得知这个消息后，再也忍受不了打击的约瑟夫，违背了之前的约定，决定向塞尔维亚开战，第一次世界大战由此爆发。
可是就在战争爆发两年后，约瑟夫却突然祈求战争能停下来，他在日记中写道：“战争的破坏性远超过我的想象，不要打了，停下来吧，别毁了这个美好的世界和人民。”遗憾的是，战争并没能如他所愿停下来。
1916年，约瑟夫肺炎发作，死在美泉宫中，此时一战尚未结束。他的遗言是对身边的侍者说的：“你能在明天早上3点钟叫醒我吗？我还有许多工作要做，为了战争的结束。”
去世时约瑟夫86岁，统治国家长达68年之久，在位时间超过中国的康熙皇帝。
