Voimistuneen sissisodan vuoksi Neuvostoliiton johdolle tuli jo 1980-luvun puoliväliin mennessä selväksi, ettei Afganistanin tilanne ollut hallinnassa ja sota voitettavissa. Mihail Gorbatshovin johdolla ryhdyttiin toimiin joukkojen vähentämiseksi ja sodan lopettamiseksi. Irtautuminen kävi kuitenkin hitaasti.
Neuvostojoukkojen tappiot kasvoivat vielä vuosina 1986 ja 1987 sissien saatua käyttöönsä tehokasta aseistusta, muun muassa amerikkalaisia ilmatorjuntaohjuksia.
Neuvostoliiton hallitus ilmoitti vuonna 1988 poistavansa joukot Afganistanista. Viimeiset yksiköt lähtivät helmikuussa 1989 jättäen jälkeensä pahoin tuhotun ja sisällissotaa jatkavan maan. Vetäytyminen Afganistanista koettiin Neuvostoliitossa helpotuksena, ja siellä vuosikausia jatkunut sota haluttiin unohtaa mahdollisimman pian.
Tappio Afganistanissa heikensi suuresti maan asevoimien arvostusta, vaikka ne olivat yrittäneet täyttää lähes mahdotonta tehtävää. Asetelma ja kokemukset olivat saman tapaisia kuin Yhdysvalloilla oli ollut Vietnamissa, vaikka Afganistanin sotaa oli käyty pienemmillä joukoilla ja huomattavasti vähemmällä julkisuudella.
Neuvostoliiton voimavaroille Afganistanin sota oli niin suuri rasitus ja arvovaltatappio, ettei sen jälkeen ollut pitkään aikaan halukkuutta aloittaa vastaavia interventioita.