西汉末年，王莽专政，中原与西域的关系一度中断。
汉哀帝以后，中国放弃了对西域的控制，导致西域内部的各种纷争持续不断，后期车师与匈奴年年不断的战争更令出入塔克拉玛干的商路难以通行。同时，中国政府为防止西域的动乱波及本国，经常紧闭玉门关，种种因素都最终导致丝绸之路的东段，即天山北南麓的交通陷入半通半停的状态。而这一时期的中国西部，贸易交流则是随着纷争的不断出现变得断断续续，西部地区因为战乱的大量存在而失去原有的社会稳定。
东汉第一个皇帝刘秀（光武帝）把都城定在洛阳，长安失去了首都的地位。但刘秀曾多次前往长安，并曾命人整修长安的宫殿。同时整个东汉近二百年间，长安一直保持着旧日京兆尹的建制和官职。“京兆尹”是西汉武帝太初元年（前104年）分右内史所辖东部地区而置，大致有今陕西省西安市以东、渭河以南、秦岭以北一带地方。其长官相当于郡太守，由于管理地区在京城附近，因而特称为“京兆”，长官称“京兆尹”。东汉时期仍然相沿不变，正表明了当时对长安的重视。
东汉末年，外戚与宦官争权夺利，互相倾轧，交替专权，政治极端腐败。中平六年（l89年）汉灵帝死后，刘辩即位（汉少帝），实际由何太后和她的哥哥何进掌握朝政。何进想召凉州豪强董卓率兵进京攻杀宦官，以进一步扩大自己的权势，结果宦官先下手杀了何进。大官僚家庭出身的袁绍乘机发兵诛杀宦官。董卓到洛阳后，又赶走袁绍，杀何太后，废除了上台才五个月的汉少帝，而把刘协扶上皇帝宝座，这就是汉献帝。由于残暴的董卓独揽大权，极力排斥官僚贵族和东部各地的地主豪强势力，因而遭到强烈的反对，纷纷兴兵讨伐，这便是曹操《蒿里行》中说的： “关东有义士，兴兵讨群凶。”在强大的压力下，董卓被迫带着汉献帝逃往长安。
到长安后，统治阶级内部的矛盾斗争日趋激烈，初平三年（192年），司徒王允指使吕布刺杀了董卓，董卓部将李榷、郭汜、樊稠等又联合攻杀了王允等人。随后，李、郭各部又互相攻杀、四处抢掠，使长安城遭到极大的破坏，变成了一座人间地狱，出现了人吃人的现象，以致“二三年间，关中无复人迹”。
长安的衰败情景，在经过将近一百年之后，也还未能明显改观。西晋惠帝元康二年（292年）时的长安令潘岳，在《西征赋》中描绘长安的情景说：街上萧条无人，宫殿、官署、店铺、库房等建筑还不到从前的百分之一，都缩聚在偏僻的角落里。汉代长安的街道破坏殆尽，宫殿破败不堪。
西晋永嘉五年（311年），匈奴人刘聪的汉（后改名赵）王朝派刘曜、石勒率兵攻陷西晋都城洛阳，晋怀帝当了俘虏。一年多之后，即公元313年，秦王司马业在长安即皇帝位，这就是晋愍帝。但只勉强维持了三年多时问，到建兴四年（316年）冬，晋感帝便“乘羊车，肉袒衔壁舆榇”，出长安东门向刘曜投降。公元318年刘聪死，第二年刘曜自称皇帝，改国号为赵（前赵），从平阳（山西省临汾市西南）迁都至长安。前赵（319-329）之后，还有前秦（351-383年）、后秦（384-417年）、两魏（525-556年）、北周（557-581年）等几个王朝陆续在这里建都。这些小王朝频频交替，时间最长的才三十多年；加之统治范围很小，又忙于打仗，因而都是抱残守缺，将汉代的宫殿建筑稍加整修，便借以起居听政。
这一时期，后赵的都城虽不在长安，但公元340年后赵的统治者石虎曾派人整修长安城。后来他又命石苞代替他镇守长安，并征调十六万民工整修了一次未央宫。解放后，考古工作曾在汉城北墙基下发现一条砖砌水道遗址，砖上刻有“石安孙典”、“石安郭平”等字样。后赵统治时期曾将咸阳改为石安县，这些砖应是石安的工匠所烧制，也证明当时的确曾整修过长安城。
公元407年，匈奴人赫连勃勃以统万城（陕西省北部的靖边县）为首都，建立了夏王朝。当公元418年赫连勃勃攻取长安后，曾有人建议他迁都长安。但他认为东晋在江南，不足为患；而建都于平城（山西省大同市东北）的北魏离北京（指统万城）才数百里。若迁都长安，统万城则难以防守。因而赫连勃仅在长安设立了南台，派他的儿子赫连勃勃主持南台尚书事。今西安市陕西省博物馆中陈列着一匹石雕立马，是1953从汉长安城遗址区移来的。这匹马刀法简练，形象古朴，雄浑有力，上有“大夏真兴六年”等隶字铭文。“真兴”是赫连勃勃的年号，真兴六年即公元424年。说明此石马正是这一时期的作品。
从东汉末年直到北周灭亡为止的三百多年间，中国虽然很不统一，又经常处于战乱之中，长安也远比不上昔日的繁荣。但西安与西方的交通往来，却从来没有间断过。