而进入五月之后，刚刚成立的中华民国北京临时政府也迎来了第一次政治危机。4月24日，在南方组阁的唐绍仪抵达天津，次日到京城。随行的只有教育总长蔡元培和农林总长宋教仁及部员数十人。
4月26日，唐内阁于总统府召开第一次内阁会议，定每周二四六于国务院开会，一三五日于总统府开会，下午治部事。
但是唐绍仪因为在此前加入了同盟会，此次还以赞同南方民党阁员带兵北上以换取他们加入内阁的行为，遭到了北洋派官僚的不满和攻击。其次唐绍仪回京后支持由南方民党人士接任直隶、河南、山东三省都督，这不仅引起了三省现任都督的不满，也令袁世凯警惕了起来。直隶都督就是前清的直隶总督，这一职位维系着京城和北洋集团的安危，袁世凯自然是不肯让出给民党的。
于是在袁世凯的默认下，直隶、河南、山东三省都督带头发难，弹劾唐绍仪“依势附利，借同盟会为奥援，植党营私，扼交通部为利薮，不顾大局，但徇私情，遇事依违，因循误国”，并在市面上流传出了唐总理之位不保的传言。
虽然此类传言并不代表唐真的要倒台，但是已经说明唐失去了北洋上下的信任。而唐绍仪和内务总长赵秉钧之间爆发的矛盾，更是加速了唐绍仪内阁的倒台。
民国成立后，北京政府改变治边政策，以“五族共和”和“内政统一”为名，试图消除内地和边疆在政治上的差异，加强对边疆地区的控制和管理，即“视蒙藏回疆与内地各省平等，将来各该地方一切政治俱属内务行政范围”，为此，裁撤理藩部，其事务划归内务部管辖。
赵秉钧调用旧理藩部司员数十人到内务部新设的蒙藏事务处任职，而唐绍仪却想多用南方人员，少用旧人。这立刻引发了旧理藩部司员的不满，这些人和赵秉钧相熟，也不愿让其为难就干脆一体辞职，但这便让内务部陷入了瘫痪之中。
赵秉钧不得不向袁世凯辞职，袁世凯出席了5月5日的内阁会议上调停唐赵两人的矛盾，
