魏哲祖籍河北巨鹿曲陽（今曲陽縣），七世祖魏靖非是五胡十六國時(shí)期前秦的征北將軍。他在鎮(zhèn)守北地郡、上郡時(shí)期，全家搬遷到寧州襄樂縣（甘肅慶陽合水縣肖咀鎮(zhèn)）居住。魏家成為慶陽地區(qū)的大家族，以后世代有人做官。到了隋末，魏哲的祖父魏唐擔(dān)任過天水郡丞，河陽都尉等官職，后來歸順了大唐。他的父親魏寶是唐朝的通議大夫。貞觀十五年（641年），27歲的魏哲以其門蔭入任國子博士。由于魏哲孔武有力，第二年被唐太宗授于左翊衛(wèi)北門長上官職，為飛騎營的士兵講授軍中禮儀。

在我國的東北地區(qū)，曾經(jīng)有一個(gè)扶余民族建立的小國高句麗（gāo gōu lí）在南北朝時(shí)期開始崛起。公元427年高句麗大敗朝鮮半島的新羅、百濟(jì)，將他們壓制在朝鮮半島南端，5世紀(jì)末又向北吞并了一些扶余，靺鞨和契丹部落，控制著中國東北南部和朝鮮半島北部。到了隋朝，隋煬帝曾經(jīng)3次發(fā)兵征伐高句麗，最后都由于各種原因功虧一簣。唐朝統(tǒng)一全國后，在徹底平定東突厥隱患后，高句麗成為下一個(gè)要征伐的勢(shì)力。