Apja Matej Kollár (Kollár Máté), anyja Katarina Frndová (Irenda Katalin) volt. Tanulmányait szülőfalujában kezdte, ahol Hruz Mária másodnagybátyja, Hruz György tanította. „Alig valamit tanultam tőle” - emlékezett vissza később Kollár, ugyanakkor Pesten anyagilag támogatta az idős és beteg Hruz Györgyöt, és 1833-ban saját költségén ő is temettette el. Körmöcbányán, Besztercebányán is járt iskolába. 1812-től a pozsonyi evangélikus líceumban teológiát tanult. Nyíregyházán mondta el első egyházi beszédét. 1817-től másfél éven keresztül a jénai egyetem teológia-filozófia szakára járt. 1817. október 8-án részt vett a Wartburgfesten, a német diákok könyvégetésig fajuló nacionalista találkozóján. Az esemény félelemmel töltötte el, és megerősítette benne a szláv lelkületet. 1819-ben Besztercebányán lelkésszé avatták. 1849-ig a Szén téri (Deák téri) evangélikus templom segédlelkészeként, majd káplánjaként szolgált. A szláv nyelvű irodalmak egységesítésén fáradozott, Olaszországban a szláv nyomokat kereste, cseh nyelvi alapokon az önálló szlovák nyelv megteremtésén dolgozott. Elismert költő, természettudós, régész volt. 1835-ben vette feleségül Schmidt Vilhelminát. 1836-ban a szentpétervári császári orosz akadémia, a szláv irodalom körül szerzett érdemei elismeréséül, arany érdemérmet küldött neki. Bár komolyabb támadás nem érte magyarellenessége miatt, a forradalom idején egy kisebb tüntetés szerveződött ellene. 1849-től a szláv archeológia professzoraként dolgozott Bécsben. Petőfit az 1833/34-es tanévben a pesti evangélikus gimnáziumban, a következő esztendőben a piaristáknál tanította evangélikus vallástanra, és ő is konfirmálta. Utólag egyikük sem említette a másikat. Halála után özvegye Weimarba vonult vissza.