诸葛亮七擒孟获，巩固了蜀汉在西南地区的统治以后，为了实现国家的统一，于公元228年，发动了北伐曹魏的战争。
诸葛亮采用声东击西的办法，先派大将赵云带领一支人马，进驻箕谷（今陕西褒城北），装出要攻打郿城的样子。魏军得到情报，果然派主要兵力去守郿城。然后，诸葛亮趁魏军不防备，亲自率领大军，突然从西路扑向祁山（今甘肃祁县东）。
蜀军经过诸葛亮几年严格的训练，阵容整齐，号令严明，士气十分旺盛。自从刘备死后，蜀汉多年没有发兵，魏国毫无防备，这次蜀军突然袭击祁山，守在祁山的魏军无力抵挡，纷纷败退。蜀军乘胜进军，祁山北面天水、南安、安定三个郡的守将都背叛魏国，派人向诸葛亮求降。
那时候，魏文帝曹丕已经病死。魏国朝廷文武官员听到蜀汉大举进攻，都惊慌失措。刚刚即位的魏明帝曹
诸葛亮到了祁山，决定派出一支人马去占领街亭（今甘肃庄浪县东南）。街亭是个咽喉要地，如果被魏军夺去，就等于掐断了蜀军的粮道，不但不能安守已经得到的陇西，还得退回汉中，那就将前功尽弃。诸葛亮深深感到守住街亭的重要性，派谁去扼守这个要道呢？最后，诸葛亮选定了马谡。
马谡从小熟读兵书，而且聪明过人，喜欢谈论军事，诸葛亮对他很器重。不过刘备对他的夸夸其谈很不满意，临终时候对诸葛亮说：“马谡常常言过其实，不可大用，你要仔细观察。”诸葛亮因为喜欢马谡的善出计谋，没有把刘备的话放在心上，常常同马谡谈论军事。
这一次，他派马谡当先锋，王平做副将。
马谡和王平带领人马到了街亭，张郃的魏军也正从东面开过来。马谡看了地形，对王平说：“这一带地形险要，街亭旁边有座山，正好可以在山上扎营，布置埋伏。”
王平提醒他说：“丞相临走的时候嘱咐过，要坚守城池，稳扎营垒。在山上扎营太冒险。”
马谡没有打仗的经验，自以为熟读兵书，根本不听王平的劝告，坚持要在山上扎营。王平一再劝马谡没有用，只好央求马谡拨给他一千人马，让他在山下临近的地方驻扎。
张郃率领魏军赶到街亭，看到马谡放弃现成的城池不守，却把人马驻扎在山上，暗暗高兴，马上吩咐手下将士，在山下筑好营垒，把马谡扎营的那座山围困起来。
马谡几次命令兵士冲下山去，但是由于张郃坚守住营垒，蜀军没法攻破，反而不少人被魏军乱箭射死。
魏军切断了山上的水源。蜀军在山上断了水，连饭都做不成，时间一长，自己先乱了起来。张郃看准时机，发起总攻。蜀军兵士纷纷逃散，马谡无法阻拦，最后只好自己杀出重围，向西逃跑。
王平带领一千人马，稳守营垒。他得知马谡失败，就叫兵士拼命打鼓，装出进攻的样子。张郃怀疑蜀军有埋伏，不敢逼近他们。王平整理好队伍，不慌不忙地向后撤退，不但一千人马一个也没损失，还收容了不少马谡手下的散兵。
街亭失守，蜀军失去了重要的据点，又丧失了不少人马。诸葛亮为了避免遭受更大损失，决定把人马全部撤退到汉中。
诸葛亮回到汉中，详细查问，得知街亭失守完全是由于马谡违反了他的作战部署。马谡也承认了他的过错。诸葛亮按照军法，把马谡关进监狱，定了死罪。
马谡自己知道免不了一死，在监狱里给诸葛亮写了封信，说：“丞相平日待我像待自己的儿子一样，我也把丞相当作自己父亲。这次我犯了死罪，希望我死以后，丞相能够像舜杀了鲧还用禹一样，善待我的儿子，我死了也没牵挂了。”诸葛亮知道马谡担忧的是自己的儿子，他于是派人带口信给马谡：“你死以后，妻子、儿女会按月发给米粮、俸禄，不用挂念。”
斩首的那一天，马谡从牢里出来，他一见诸葛亮，就“扑通”跪下了，泪流满面，一句话也说不出来。诸葛亮此时心中也万分悲痛，想起马谡平常聪明过人，年轻有为，然而军法如山，不得徇私情，他走上前去，扶起马谡。然后转过身去，对刀斧手挥了挥手。马谡被带出去了。
这时，诸葛亮忍不住失声痛哭，文武官员都来劝解。诸葛亮缓缓地说：“我怜惜马谡呀，为他而哭。我又悔恨自己，先帝临终专门嘱咐我不可重用马谡，说他是个言过其实的人。可我不会看人、用人，致全军大败，前功尽弃，现在想起先帝的话，怎能不懊悔、不伤心呀！”说完仰头长叹，泪如雨下。
马谡被斩首后，诸葛亮对街亭战役中有功的王平给以封赏，让他代替马谡为参军，封为讨寇将军。但他对自己却痛加责备，他上书后主刘禅，请求贬官三等。他还公开发出文告，承担了失败的责任。
诸葛亮执法如山、铁面无私的严明公正的作风和严于律己的品质一直被人们传颂着。