前秦的皇帝苻健，其子苻生是一个十分残暴的人。在苻健驾崩后，苻生很快就被他的堂兄弟苻坚推翻。苻坚从少年时就有宏图大志，并且博学多才，自从他当上前秦的皇帝以后，就召集了许多有才能的人做官。其中有一位很有名的大臣叫做王猛，是苻坚的得力助手。他帮助苻坚治理国家，做了许多治国安邦的好事，被苻坚当作诸葛亮一样的人物，一年里被提升五次，权力大得没人能比。
过了十几年，前秦在苻坚和王猛的治理下，国力越来越强大，先后灭掉了前燕、代国和前凉等许多小国，并且出兵攻晋，占据了襄阳。就这样，苻坚统一了北方的大部分地区。西域各国也都前来朝拜，贡献礼品。秦王便自以为了不起，准备攻打东晋，实现南北统一。
一些明智的大臣像权翼、石越等极力反对，认为晋国国力虽弱，但君臣和睦，上下齐心，朝中有谢安、桓冲等杰出人才，而且有长江作为屏障，百姓也愿意为朝廷出力，因此现在出兵伐晋还不是时候。苻坚对这些话根本听不进去，驳斥道：“长江有什么了不起！现在我有兵百万。若将马鞭投入江中，便能把江水截断，天险有什么用！”众大臣见秦王生了气，也不敢再争论了。
这时，王猛已经去世了，他去世之前也曾嘱咐苻坚说：“东晋虽偏居江南，但他们与邻国友好相处，国泰民安，臣死之后，陛下不要攻打晋国。”当时苻坚对王猛是言听计从的，但在攻晋这个问题上却也一直有自己的看法，所以早把王猛的临终遗言忘了。
公元383年8月，符坚亲率步兵六十万、骑兵二十七万、羽林郎（禁卫军）三万，共九十万大军从长安南下，同时，符坚又命梓潼太守裴元略率水师七万从巴蜀顺流东下，向建康进军。近百万行军队伍在向南的大路上，烟尘滚滚，步兵、骑兵，再加上车辆、马匹、辎重，队伍浩浩荡荡，差不多拉了千把里长。
过了一个月，苻坚主力到达项城（在今河南沈丘南），益州的水军也沿江顺流东下，黄河北边来的人马也到了彭城（今江苏徐州市）。从东到西一万多里长的战线上，前秦水陆两路进军，向江南逼近。
这个消息传到建康，晋孝武帝和京城的文武官员都慌了。晋朝军民都不愿让江南陷落在前秦的足下，都盼望宰相谢安拿主意。
谢安是陈郡阳夏（今河南太康）人，出身士族，年青的时候跟王羲之是好朋友，经常在会稽东山游览山水，吟诗谈文。他在当时的士大夫阶层中名望很高，大家都认为他是个很有才干的人。但是他宁愿隐居东山，也不愿出来做官。有人推举他做官，他上任一个多月，就不想干了。当时在士大夫中间流传着一句话：“谢安不出来做官，叫百姓怎么办？”
到了四十多岁的时候，他才重新出来做官。因为谢安长期隐居在东山，所以后来把他重新出来做官这样的事称为“东山再起”。
苻坚强大起来以后，经常骚扰东晋的北面边境。朝廷想找一个文武全才的将军去防守边境。谢安把自己的侄儿谢玄推荐给孝武帝。孝武帝把谢玄封为将军，镇守广陵（今江苏扬州市），掌管江北的各路人马。
谢玄也是个军事人才，到了广陵以后，就招兵买马，扩大武装。当时有一批从北方逃难到东晋来的人，纷纷应征入伍。他们中间有个彭城人叫刘牢之，从小练得一身武艺，打仗特别勇猛。谢玄派他担任参军，叫他带领一支精锐的人马。这支人马经过谢玄和刘牢之的严格训练，成为百战百胜之师。由于这支军队经常驻扎在京口（今江苏镇河市），京口又叫“北府”，所以称之为“北府兵”。
这一回，苻坚率领百万大军进攻东晋。谢安决定自己坐镇建康，派弟弟谢石担任征讨大都督，谢玄担任前锋都督，带领八万军队前往江北抗击秦兵，又派将军胡彬带领水军五千到寿阳（今安徽寿县）去配合作战，又任恒冲为江州刺史，率十万晋军控制长江中游，阻止秦巴蜀军顺江东下。
为了安定人心，不使人们丧失斗志，谢安装作若无其事的样子，游山玩水，其实他一直在观察着苻坚的一举一动。
前秦将领苻融率领的先锋部队，日夜行军，用了一个月的时间，就来到了淮河北岸。为了占领军事重镇寿阳，苻坚不等后面的大部队到齐，就赶快命令军队抢占寿阳。而东晋的大将胡彬，还在赶往寿阳的路上，听到寿阳失守的信息，只好退守硖石。秦将梁成占领军事要地洛涧，扎下许多水寨，把谢玄带领的八万晋军，阻挡在洛涧东边。
在前秦的军队中有一名大将叫朱序，原来是东晋的将领，后来作战中被前秦俘虏，留在前秦。现在他看见前秦与东晋作战，认为自己为东晋出力的机会到了，恰好此时苻坚派他到晋军大营中去劝降。他到晋军营中，不但没有劝降，反而向谢石出谋划策，建议谢石趁着秦军各路还未到齐，赶快出击，挫败他们。他还答应做晋军的内应，来个里应外合。
谢石听了这个建议非常高兴。他与大将们商议，决定首先袭击洛涧的秦军。
11月，谢玄派谴勇将刘牢之率精兵万千奔袭洛涧，揭开了淝水大战的序幕。秦将梁成率部五万在洛涧边上列阵迎击。刘牢之分兵一部迂回到秦军阵后，断其归路；自己率兵强渡洛水，猛攻秦阵。秦军惊慌失措，勉强抵挡一阵，就土崩瓦解，主将梁成和其弟梁云战死，官兵争先恐后渡过淮河逃命，一万五千余人丧生。洛涧大捷，极大鼓舞了晋军的士气。谢石带领晋军主力渡过洛涧，直抵淝水（今淝河，在安徽寿县南）东岸，在八公山边扎下大营，与寿阳的秦军隔岸对峙。
寿阳城里的苻坚对秦军的失利非常着急。他站在寿阳城上，观察晋军，只见八公山上密密麻麻全是旌旗，不知道有多少晋军在东奔西突地苦练杀敌本领。他连忙下令秦军不要轻易出击。其实，八公山上并无晋军，只因苻坚这几日惊慌，把山上的草木当作晋兵了。
苻坚命令秦兵严密防守。晋军没能渡过淝水，谢石、谢玄十分着急。如果拖延下去，只怕各路秦军到齐，对晋军不利。
谢玄派人给苻坚送去一封信，说：“你们带了大军深入晋国的阵地，现在却在淝水边摆下阵势，按兵不动，这难道是想打仗的吗？如果你们能把阵地稍稍往后撤一点，腾出一块地方，让我军渡过淝水，双方就在战场上比一比输赢。这才算有胆量呢！”谢玄就派使者去见苻融，用激将法对他说：“将军率军深入晋地，却紧逼河岸布阵，这难道是想决战吗？如果你把阵地稍向后退，空出一块地方，让我军渡过淝水，双方一决胜负如何？”秦军诸将都表示反对，但苻坚认为可以将计就计，让军队稍向后退，待晋军正渡河时，再以骑兵冲杀，这样就可以取得胜利。苻融对苻坚的计划也表示赞同，于是就答应了谢玄的要求，指挥秦军后撤。但秦兵士气低落，结果一后撤就失去控制，阵势大乱。谢玄率领八千多骑兵，趁势抢渡淝水，向秦军猛攻。朱序则在秦军阵后大叫：“秦兵败了！秦兵败了！”秦兵信以为真，于是转身竞相奔逃。苻融眼见大势不妙，急忙骑马前去阻止，以图稳住阵脚，不料战马被乱兵冲倒，被晋军追兵杀死。失去主将的秦兵越发混乱，彻底崩溃。前锋的溃败，引起后续部队的惊恐，结果全军溃逃，向北败退。秦军溃兵沿途不敢停留，听到风声鹤唳，都以为是晋军追来。晋军乘胜追击，一直到达寿阳附近的青冈。秦兵人马相踏而死的不计其数，满山遍野都是尸体。苻坚本人也中箭负伤，单枪匹马逃回洛阳。
晋军收复寿阳，谢石和谢玄派飞马往建康报捷。当时谢安正跟客人在家下棋。他看完了谢石送来的捷报，不露声色，随手把捷报放在旁边，照样下棋。客人知道是前方送来的战报，忍不住问谢安：“战况怎样？”谢安慢吞吞地说：“孩子们到底把秦人打败了。”客人听了，高兴得不想再下棋，想赶快把这个好消息告诉别人，就告别走了。谢安送走客人，回到内宅，再也按捺不住兴奋的心情，跨过门槛时踉踉跄跄的，把脚上木屐的齿也碰断了。
淝水之战，前秦军被歼和逃散的共有七十多万，惟有鲜卑慕容垂部的三万人马尚完整无损。苻坚统一南北的希望彻底破灭，不仅如此，北方暂时统一的局面也随之解体，再次分裂成许多地方民族政权。鲜卑族的慕容垂和羌族的姚苌等其他族贵族重新崛起，各自建立了新的国家，苻坚本人也在两年后被姚苌俘杀，前秦随之灭亡。