东晋朝廷直辖的兵力较少，大州刺史、都督的军府拥有较多军队，是与北方作战的主体。在东晋立国数十年中，这些地方实力派通过与北方政权的战争，逐渐能搜罗一些战马，建立起小规模的骑兵部队。东晋末刘裕在征服南燕、后秦的战争中，俘获了很多骑兵和战马，使晋军骑兵规模一度增加，所以当他称帝建宋后，又增加了尚书省骑兵曹的建制，由一名尚书郎主管。但刘宋缺乏新的战马补充，随着自然老化和与北魏军作战的损失，战马数量迅速减少。到宋文帝元嘉十年（433年），曾将骑兵曹裁撤，但次年即恢复。这反映了刘宋政权骑兵数量在走下坡路，制度因而产生摇摆。到宋明帝刘彧时，淮北广大地区被北魏夺取，刘宋疆界收缩到淮河沿岸，骑兵数量更为减少，因而骑兵曹被再度裁撤。此后历经齐、梁、陈都不曾恢复。

北方政权对南方威胁最大的，是人、马都披铠甲的具装骑兵（“具装”是东晋南朝用语，十六国北朝文献一般只称“铠马”“铁骑”等）。所以东晋军队很重视收集、缴获战马具装。石虎后赵曾以七千骑兵渡过汉水攻击襄阳，晋守军桓宣部突袭得手，缴获了一些“铠马”。前秦军队对长江中游展开攻势，在逼近竟陵时，晋竟陵太守桓石虔率部夜袭，取得战果“斩首七千级，俘获万人，马数百匹，牛羊千头，具装铠三百领”。从斩、俘总数和缴获的马匹、具装铠甲比例看，这支前秦军中骑兵数量并不多，具装骑兵也只是骑兵中的一部分。这可能和竟陵一带多山林河川，不便骑兵作战有关。383年秦晋淝水决战，晋豫州刺史桓伊率部参战，在胜利后收集了很多秦军丢弃的“人马器铠”，但多数都已经残损破坏。经过数年修补，拼凑出完整的步兵铠甲五百领、马具装一百具。桓伊临死前将这些铠甲上交朝廷，受到诏书嘉奖。淝水之战十万以上秦军大溃败，而桓伊所部只能收集到如此少的铠甲装备，说明秦军中具装骑兵所占的数量也不多。

东晋末年刘裕主政，对北方政权采取攻势。409年，刘裕晋军与南燕会战于临朐，南燕一支“具装虎班突骑”——铠甲上都绘着虎斑花纹的具装骑兵——试图从后方攻击晋军部队，但被晋军沈林子部阻击。在晋灭南燕之后，这支具装骑兵被晋军收编，随后返回江南，参与对卢循天师道军的作战。
东晋、南朝政权的地域和战略环境，和三国鼎立时期的东吴基本相同，其战马来源、骑兵规模也有相似之处。黎虎先生曾总结东吴主力军队步、骑兵比例常为40:1，但东晋南朝史料中则未有这么明确的比例。这反映了两个时期军事体制的区别：东吴皇权强大，对军队的编制、装备有统一而明确的管理，东晋、南朝则多为地方实力派拥兵自重，缺乏统一的军队编制模式。史料中几乎没有东晋时期骑兵数量的明确记载。从刘宋开始这方面的材料才稍多一些。另外，南方政权的军队中骑兵数量、步骑兵比例并不一致，一般是邻近北方战区诸州的军队，战马和骑兵会多一些。他们经常与北方政权作战，需要比内地州府更多的骑兵武装，且这些州府可以通过贸易、缴获等从境外获得战马。这些北境部队在对北方作战、南方内战中都表现得最为活跃。

宋文帝元嘉七年（430年），刘宋政权试图收复河南。刘义隆诏书称北伐兵力近十万，其中段宏所率“精骑八千，直指虎牢”，但这些数字都做了严重夸大，不能据此判断宋军的骑兵规模。宋明帝即位之初，刘宋境内发生大规模内战，当时豫州刺史刘胡也投入到反对刘彧的阵营中，参加了向建康的进军。他统帅的部队有“众三万，铁骑二千”，在一次作战时，则言其有“步卒二万，铁马一千”。第二次的数字比较接近实际，则步骑比例为20:1。刘宋末年，江州刺史、桂阳王刘休范起兵反对萧道成，集结士兵有“众二万人，骑五百匹”，步骑比例为40:1。南齐时，为对抗魏孝文帝元宏进攻沔北，萧鸾派崔慧景“率众二万，骑千匹”前往援助，步骑比例20:1。这些战争中，刘胡的豫州与北魏接境，骑兵比例较高；崔慧景之前任豫州刺史，在援助沔北时得到了朝廷直属的“台军”补充，骑兵比例也较高。至于刘休范的江州，地处长江两岸，与北魏并不直接接境。可见内地的江州骑兵对步兵比例为1:40，这是东吴时主力军的正常水平。而边境州的比例能达到1:20甚至更高。

在南齐末，少帝萧宝卷昏乱，引起雍州刺史萧衍起兵。萧衍在檄文中列举自己的兵力，其中说“即日遣冠军、竟陵内史曹景宗等二十军主，长槊五万”，似乎有二十个骑兵军、五万骑兵。但这种檄文的夸大之辞不能相信。当时搜遍南朝全境也不可能拼凑起五万骑兵。《梁书》载萧衍起兵时，集结其治下诸郡的兵力，其中上庸太守韦叡“率郡人伐竹为筏，倍道来赴，有众二千，马二百匹”，华山太守康绚“举郡以应高祖，身率敢勇三千人，私马二百五十匹以从”。这些战马构成了萧衍军的主要骑兵力量。这两人都是边境侨郡太守，因为地处北境，拥有较多的战马，步、骑比例10:1左右，骑兵占比非常高，但总量并不算多。
在梁朝中期，有些军队中的骑兵比例曾达到较高的数字。比如豫州刺史、都督北境七州诸军事的夏侯夔，“有部曲万人，马二千匹，并服习精强，为当时之盛”，步骑比例达5:1，几乎是南朝骑兵的巅峰。这个时期骑兵增加，和梁武帝普通末年开通了与吐谷浑、河西的通道，可以大量进口战马有关。另外，梁中期，陈庆之乘北魏内战带领七千士兵北征，当转战到虎牢城下时，已经能“率骑三千”与魏军作战。这些战马应多为缴获而来。