西晋灭亡后，北方少数建立割据政权，彼此混战，进入十六国时期。在南方则以建康为中心，出现了司马睿建立的政权。为了和西晋政权相区别，历史上把司马睿重建的晋朝，称为东晋。
东晋是在北方和南方的世家大族支持下建立的。司马睿是司马懿的曾孙，十五岁嗣位为琅邪王以后，交结了琅邪郡的大世族王导。王导看到西普的天下已经大乱，有可能建立王家当权的小朝廷，于是对司马睿“倾心推奉”。司马睿对王导也是“雅相器重，契同友执”，很注意拉拢。永嘉元年（307年），司马睿以安东将军，都督扬州江南诸军事，移镇建康，他便以王导为谋主，“每事咨焉”，对之倍加亲信。
司马睿刚到建康，江南世族都看不起他，一个多月还没有一个有名望的世族来拜访过他。王导对此很是忧虑。于是，在他的导演下，利用三月初三，当地人的“禊节”，演出了一幕“戏剧”。这一天，司马睿以观看官民欢度禊节为名，坐着华丽的轿子，排出威严的仪仗队列，由王导和他的从兄王敦以及北方一些名士，骑马簇拥在轿后跟随，以炫耀司马睿的尊显威严。
江南的名门望族顾荣等人，看见了这个“阵容”，大为震动，赶忙跑出来到路旁拜见司马睿。司马睿也乘机派王导登门拜访顾荣、贺循两家江南最大的世族，招请他们出来做官。于是，在他们二人带动下，江南世族纷纷出来拥护司马睿。一时“吴、会风靡，百姓归心”，司马睿终于取得了江南大族的合作。这时，北方大乱，江东则是较为安定的地方，中原世族大量南逃，“中州士女避乱江左者十六、七。”王导又劝司马睿“收其贤俊，与之共事”，努力争取北方世族的支持。司马睿把这些人中有名望的一百多人辟为属官，称为“一百○六掾”。司马谷由于得到南方的和北方南迁的两部分世族的拥护，在江南站稳了脚跟。建武元年（317年），西晋愍帝被刘聪杀死，司马睿便在建康正式称帝，建立了东晋王朝。东晋政权既是西晋司马氏政权的延续，也是集中代表南北世族利益的政权。
司马睿认为王导帮助自已再造晋室，功劳极大，而且，王导又是联系南北世族的关键人物，对他极其重视。在登极大典上，竟然要拉着王导与他同坐御床，共受百官朝拜。这是历史上从来没有过的事。只是由于王导坚决推辞，才没有实现。但是，王氏兄弟在东晋政权中的特殊地位，却十分明显的暴露出来。当时，王导位至宰辅，掌握着中央的行政大权从兄王敦则手握重兵，镇守荆州。其他很多王氏家族中人，也都担任着重要官职。在东晋朝中，司马氏有其位，而王氏家族有其权，王家与司马氏几乎达到“平起平坐”的地步。所以，当时流传的一句话：“王与马共天下”。
东晋政权的性质既然如此，它必然千方百计优抚世家大族。在政治上，“举贤不出世族，用法不及权贵”，多方面加以照顾。在经济上，东晋政权也处处维护大族的利益，纵容他们封山占泽，兼并土地，大量荫庇私附佃客，使得大族的经济基础，越来越巩固。司马睿对于南下投晋的北方世族，照应更多。太原王峤来归，马上“给钱三十万，帛三百匹，米五十斛，亲兵二十人”，帮助重建世族经济。
首先是大族之间互相争夺，彼此倾轧，内部冲突有增无已。支持东晋政权的南北大族，先后交替执政的王、谢、庾、桓四大族。在抵抗北方少数民族，保护江南世族共同前提下，北方和南方的世族能够暂时联合起来，拥戴司马氏。但是，在司马氏与各家世族间，北方南迁的世族与南方土著世族间，北方世族内部几大家之间，都存在着各种利害冲突。
在这种情况下，东晋政权必然是软弱的，只能苟安江南，无力进复中原。也有一些有志之士如祖逖，曾率兵进行过北伐。但是，由于东晋偏安和世家大族彼此间斗争，致使一些本来有希望的北伐，也都相继以失败告终。偏安局面，始终无法改变了。