隋朝末年，隋炀帝杨广荒淫残暴，朝政崩坏，民不聊生，叛乱四起。一时间，天下群盗蜂起，攻城略地，各自称王称霸。虽然隋炀帝派大军征讨叛逆，但天下苦隋已久，除之不尽，成了燎原之势，愈演愈烈，烽火燃遍九州。
唐国公李渊，与隋炀帝是姨表兄弟，镇守在太原晋阳，奉命讨伐叛乱。李渊之子李世民，志向远大，见天下群雄并起，知隋朝气数已尽，有意起兵自立，成就宏图霸业，于是求贤若渴，招纳人才。
尉迟恭，又叫尉迟敬德，是朔州善阳（今山西省神池县）人。尉迟恭起初是朝廷的一名小官，投靠了农民起义军首领刘武周，在其帐下做了一员偏将。 
后来，有降将背叛李世民，众人怀疑尉迟恭也跟人一起背叛，将他囚禁起来。众人请求杀了尉迟恭，而李世民不相信尉迟恭会叛乱，将他释放，并赐予金钱，任凭他去留。
当日王世充率兵数万进犯，王世充部将单雄信骁勇善战，径直向李世民攻来。这时，尉迟恭并没有离开，他跃马大呼横刺，将单雄信击落坠地，保护李世民离开。然后尉迟恭又折返过来，率兵相战，大败敌军。
事后，李世民对尉迟恭说：“众人都猜你谋反，只有我相信你清白，为何这么快就来报答我了？”于是赏赐了尉迟恭一箱子金银。
尉迟恭勇武超群，所使用兵器并不是演义小说所记载或影视作品所展现的钢鞭，而是槊。槊是一种骑兵的重武器，似枪似戟，由木制的槊杆和金属制成的槊头组成，槊刃比较长，威力巨大。尉迟恭不但善于使槊，还身怀一项避槊的独门绝技，他每次单骑冲入敌军中，敌人群槊攻来，却不能伤其丝毫，又能夺取敌人的槊反击。 
当初，李世民携带弓箭，尉迟恭手执长槊，设下伏兵，击败了窦建德的军队。当时王世充的侄子王琬在窦建德军中，乘着隋炀帝华丽的宝马，在军中炫耀。李世民望见说：“谁能为我取来？”尉迟恭请求与壮士高甑生、梁建方三人骑马前往，擒来王琬以及宝马，而敌军无人敢动。 《新唐书》记载：“（李世民）亲挟弓，令敬德执槊……时世充兄子琬使于建德，乘隋帝厩马，铠甲华整，出入军中以夸众。王望见，问‘谁可取者？’敬德请与高甑生、梁建方三骑驰往，禽琬，引其马以归，贼不敢动。……（尉迟恭）其战，善避槊，每单骑入贼，虽群刺之不能伤，又能夺取贼槊还刺之。” 李渊称帝后，以封建社会嫡长子继承制，立长子李建成为太子。李世民是晋阳起兵的首谋，又击败宋金刚、王世充、窦建德等群雄，功劳第一，渴望当太子，而李渊也多次暗中答应立李世民为太子。李建成担心被废，于是与弟弟齐王李元吉等人合谋袭杀李世民。 
尉迟恭与长孙无忌劝李世民早做准备，先下手为强，李世民犹豫不决。经过众人轮番多次劝谏，计谋才确定下来。于是李世民向李渊密奏说：“太子一党淫乱后宫，又想杀掉臣。”李渊大惊，打算第二天让李世民和太子一党当堂对质。
第二天，太子李建成，齐王李元吉入宫，走到玄武门时发现了埋伏，急忙返回。李建成被李世民一箭射死，李元吉逃跑。李世民去追杀李元吉，不小心坠马，李元吉见状，夺去弓箭要射杀李世民。尉迟恭骑马飞奔过来，大声呵叱李元吉，并将他射杀。尉迟恭砍下李建成和李元吉的头颅，吓退他们的党羽。然后，李世民让尉迟恭去见李渊，请李渊下诏让李世民统领诸军，内外才安定下来。 
事后李世民论功行赏，尉迟恭功劳为第一，赐尉迟恭绸缎万匹，齐王李元吉府上所有的金币、宝物全都赐给尉迟恭，封尉迟恭为吴国公，食邑一千三百户。
在《西游记》中，唐太宗李世民遭泾河龙王冤魂索命，幸亏有尉迟恭和秦琼2位大将在门外护卫，才得以平安无事。李世民不忍让两位爱将辛苦守夜，于是命画师画了尉迟恭和秦琼的画像贴在门上，从此人们就将尉迟恭和秦琼奉为门神。