狄仁杰出生于官宦之家，祖父狄孝緒任唐太宗貞觀朝尚書左丞，父親狄知遜官至夔州長史。他從小便受到嚴格的訓練，少年時參加明經(jīng)科考試及第，順利進入仕途。

狄仁杰剛出道便表現(xiàn)不凡，擔任汴州參軍時，被人誣陷，這時的工部尚書閻立本(著名的畫家宰相)作為中央考察大員巡視河南，受理此案。他不但發(fā)現(xiàn)狄仁杰清白無辜，還發(fā)現(xiàn)了狄仁杰德才兼?zhèn)?，大贊他實在是“滄海遺珠”，馬上舉薦他為并州法曹參軍，狄仁杰從此進入了法律界。狄仁杰被人誣告后反而得到意外的提拔，說明狄仁杰實在才德過人，即便在走霉運時都掩蓋不了他的閃閃金光。在任期內(nèi)，狄仁杰逐漸通曉了兵法、刑罰、吏治等各方面典章制度，為他一生的政治活動打下了良好的根基。

狄仁杰才能賢德的名聲逐漸傳到唐高宗那里，儀鳳元年(公元676年)，被擢升為大理丞(最高法院的推事)，掌管國家刑法大權(quán)。他到任僅一年，就判決了以前積壓的幾千件案子，牽涉到一萬七千人。他公正廉明，明察善斷，英明果決，一下子名聲大震，朝野上下無不推崇這位斷案如神的大法官。大家熟悉的《狄公案》里那個包黑子一樣的青天大老爺?shù)胰式?，就是從他的這段經(jīng)歷中演化出的。

狄仁杰絕不徇私枉法，為了維護法律，甚至敢于犯上直諫。一次，左威衛(wèi)大將軍權(quán)善才、右監(jiān)門中郎將范懷義兩位將軍誤砍了昭陵(唐太宗墓地)的柏樹，高宗大發(fā)脾氣，下令立即把他倆處斬。

狄仁杰上奏說：“國家已經(jīng)制定了明確的法律，根據(jù)法律，兩位將軍不該判死刑?！备咦谂溃骸八麄兒ξ易隽瞬恍⒆?，非得要處死！”狄仁杰堅持說：“按法不該判死刑而一定要判死刑，就因為誤砍了一棵柏樹，處死了兩位將軍，后世會議論陛下究竟是個什么樣的君主？我不敢陷陛下于無道！”唐高宗頓時悔悟，免了二人死罪，從此狄仁杰名震京城。