Apja Sárkány Sámuel evangélikus lelkész, anyja Clementis Apollónia volt. Sárszentlőrincen végezte a gimnázium első két évét, Petőfivel közösen egy esztendőt, Aszódon pedig a harmadik és negyedik tanévet. Itt együtt lakott Petőfivel. Utána a selmeci líceumban tanult, majd Pozsonyba ment teológiát hallgatni. 1840 és 1844 között a jénai egyetemen tanult. Temesváron Feldinger Frigyes mellett nevelő-felolvasó állást vállalt, és beutazta vele Németországot, Franciaországot és Angliát. Utazásai során megtanult franciául. 1847-ben avatták lelkésszé. Apja mellett segédlelkészként szolgált, majd annak halála után a pilisi egyház lelkészévé választják. Kiváló hitszónok volt, e minőségében Nyáry Pál figyelmét is felkeltette. 1868-ban esperessé, majd főesperessé léptették elő, 1872-ben kinevezték a kerületi gyámintézet elnökévé. 1890-ben a bányai egyházkerület püspöke lett. 1895-től a főrendiház tagjai közé lépett. 1897. február 9-én, amikor lelkészi pályafutásának ötven éves jubileumát ünnepelte, Ferenc József «ilenczfalvi» előnévvel megerősítette régi nemességét. 1905-ben lemondott püspöki tisztéről. Petőfi 1837 januárjában Aszódról írt levelet „Száminak” melyben utalt a korábbi veszekedésekre és haragvásokra, de „vígabb lenne, ha együtt járhatnánk”.