Elszegényedett református kisnemesi családból származott, apja Erdélyi Mihály földműves (megh. 1832), anyja Kovács Zsuzsanna (megh. 1841) volt. Mind a hat testvérét elvesztette. 1854-ben nősül újra, felesége Csorba Ilona; három gyermekük született. Tanulmányait a helyi iskolában kezdte, s olyan jól megtanult latinul, hogy tízéves korában már felvették a szintakszisták közé a sárospataki kollégiumba. Mindvégig itt tanult, amit csak családi tragédiák és anyagi gondok miatt szakított meg, ekkor nevelőtanári állást vállalt, hogy pénzt gyűjtsön. Iskoláit 1835-ben fejezte be, ekkor Berzétére (Gömör megye) ment Máriássy Zsigmond fia mellé nevelőnek. A családnál öt évet töltött; időközben jogot tanult és Pesten is tartózkodott. 1838-ban előbb Máriássy István szolgabíró, majd Korláth László táblai ügyész mellett volt törvénygyakorlaton, utóbb Noszlopy Ignác táblai bíró, és végül mint táblai hites jegyző, Bereznay István ügyvédje volt. 1841-ben ügyvédi oklevelet szerzett, ekkor vette feleségül a Vahot fivérek húgát, Kornéliát, aki gyermekágyi lázban halt meg (1842), s egy éven belül elveszítette kislányát is. Petőfivel személyesen a Vahot fivérek révén ismerkedett meg. Petőfi tiszteletét bizonyítja, hogy felvidéki útja során tudatosan kereste fel Berzétét, ahol Erdélyi öt éven át volt nevelőtanár. Tőle kapta meg a költő a Toldi kéziratát. Erdélyi 1835-ben lett ismert verseivel az irodalmi életben, 1839-ban a Magyar Tudományos Akadémia levelező tagjává választotta. A Pesti Hírlapnál segédszerkesztőként, majd 1842 januárjától a Regélő - Pesti Divatlap szerkesztőjeként dolgozott. Két alkalommal is külföldi tanulmányútra ment tanítványával, Máriássy Bélával. Második útjuk alatt a lapot ideiglenesen sógorára, Vahot Imrére bízta, s így áttételesen Petőfi segédszerkesztői állását segítette elő. Az 1840-es évektől egyre inkább a folklór felé fordult. 1842-ben tartotta székfoglaló beszédét a Kisfaludy Társaságban Népköltészetről címmel. A Társaság megbízásából ő szerkesztette a Népdalok és mondák mindhárom kötetét (1846,1847,1848). 1846-tól a Magyar Szépirodalmi Szemle szerkesztőjeként ténykedett. A szabadságharc veresége után bujdosni kényszerült, majd elfogadta a sárospataki kollégium professzori állását. 17 éven keresztül tanított filozófiát, esztétikát, jogelméletet. Erdélyi a 40-es években induló költők közül Petőfit említette elsőként (Levelek Ottiliához), majd a költő halála után írt tanulmányában (Petőfi) máig érvényes értékelését adja a poétának, különválasztva a költőt és az esendő személyiséget.