Löfven röstades ned med siffrorna 181 mot 109. 51 ledamöter lade ned sina röster och 8 var frånvarande. För att rösta ned Löfven krävdes minst 175 röster.
Stefan Löfven har nu två alternativ. Att avgå eller att utlysa extra val.
Han har fram till efter midsommarhelgen på sig att ge besked.
Det var Vänsterpartiet som hade Löfvens öde i sin hand i misstroendeomröstningen.
V-ledaren Nooshi Dadgostar uppgav redan i söndags att partiet tänker rösta mot Löfven om regeringen inte lovar att slänga förslaget om fri hyressättning i nyproduktion i papperskorgen.
"Gjort allt"
Något sådant besked från regeringen kom aldrig innan riksdagens misstroendeomröstning.
– Det vi gör i dag, görs inte med lätt hand. Vi har gjort allt vi har kunnat för att lösa situationen, sade V-ledaren Dadgostar i sin röstförklaring inför omröstningen.
– Det är inte Vänsterpartiet som har övergivit den socialdemokratiska regeringen. Det är den socialdemokratiska regeringen som övergivit Vänsterpartiet och svenska folket.
S och MP röstade nej till misstroendeförklaring och därmed för Löfven som statsminister.
C och L lade ned sina röster och stöttade därmed Löfven i praktiken.
"Sorgens dag"
Efter omröstningen uppgav C-ledaren Annie Lööf att ett tungt ansvar nu vilar på V-ledaren Nooshi Dadgostars axlar.
– V och SD har sett till att Sverige nu går in i en osäker tid genom att kroka arm i varandra, säger Lööf.
Socialdemokraternas gruppledare Annelie Karlsson anklagade i sin röstförklaring M, KD, SD och V för att inte ta ansvar.
– Koalitionen saknar en plan för Sverige, sade hon.
– Dagens knapptryckningar öppnar upp för ovisshet och onödig spekulation om Sveriges framtid.
Miljöpartiets språkrör, miljöminister Per Bolund, uppgav efter omröstningen att det är en "sorgens dag". Han kunde inte ge något besked om Löfvens nästa steg.