Elszegényedett református nemesi családból származott, apja Szemere László őrnagy, anyja Karove Erzsébet volt. Három testvére érte meg a nagykorúságot. Tanulmányait Sárospatakon, a német nyelv elsajátítása miatt Miskolcon, majd Késmárkon és újra Sárospatakon végezte. Bölcsészetet, teológiát és jogot hallgat. Részt vett az 1832-1836-os pozsonyi országgyűlésen. 1836-1837-ben egyéves európai körutat tett rokonai, Szemere Miklós és György anyagi támogatásával. Útikönyve nyomán (Utazás külföldön) a Magyar Tudományos Akadémia levelező tagjává választotta. Értekezéseket írt egy építendő fogház tervéről, a papi özvegy-és árvaház építésének szükségességéről és a büntetések módozatairól. Az 1843-1844-es országgyűlésen az ellenzék egyik vezérszónokaként lépett fel. 1846-ban vette feleségül Jurkovich Leopoldinát. A Batthyány-kormányban 1848. március 23 és szeptember 11. között belügyminiszteri pozíciót vállalt. Október 1-jétől az (Országos) Honvédelmi Bizottmány tagjaként, december közepétől 1849 májusáig felső-magyarországi teljhatalmú országos biztosként ténykedett. Kossuth kormányzósága alatt, 1849. május 2 és augusztus 11 között miniszterelnök lett. 1845. április 19-i levele arról tanúskodik, hogy ismerte Petőfit. A népképviseleti törvény Pest megyei választmányi vitájában fölvetette a nemzeti kérdés problémáját, a replikázó Petőfi szerint mindenki egyenlő. A vereség után emigrált, a senkiföldjén elásta a Szent Koronát és a koronázási ékszereket, amelyeket 1853-ban találta meg a bécsi titkosrendőrség. Az emigrációban az Oszmán Birodalomban, majd Párizsban és Londonban élt. Később Kossuthtal való viszonya megromlott, vállalkozási csődbe jutottak, felesége vagyonát egy szélhámos megkaparintotta. 1860-tól az Ausztriával való kiegyezés mellett foglalt állást. Elméje elborult, Párizsból 1865-ben amnesztiával szállították haza. A Schwartzer szanatóriumban (Budai Magán Elme- és Ideggyógyintézet) halt meg.