行俭贞观中举明经，显庆初为长安令。高宗废王皇后，立武昭仪(武则天)，行俭私下和长孙无忌、褚遂良议论，被谮，贬为西州都督府长史。麟德二年(665)拜安西大都护，在西域时，诸部多慕义归附。乾封初，召为司文(鸿胪)少卿。总章中，迁司列少常伯(吏部侍郎)，与李敬玄、马载同掌选事十余年，甚有能名，时称“裴、李”、“裴、马”。当时承平日久，取得各种资格上吏部候选为官的人剧增，行俭和李敬玄委任员外郎张仁祎创立一些法规，使选任官职有一定的条例可循，为后来所承用。

行俭少时从大将军苏定方学习兵法，后来领兵出征，善于料敌决胜。他诚恳待人，获得士兵爱戴，故战多取胜。调露元年(679)西突厥十姓可汗阿史那匐延都支与李遮匐反叛，侵逼安西(今新疆库车)。当时行俭受命册送波斯王子泥涅师归国，途经西州时，募得万骑，便假为畋猎，以计俘都支，将吏于碎叶城为他立碑纪功。由于他“文武兼资”，高宗特授礼部尚书，兼检校右卫大将军。同年，东突厥阿史德温傅、阿史那伏念反叛，行俭以定襄道行军大总管统兵三十万出击。开耀元年(681)，以反间计逼伏念执温傅来降，余众悉平。永淳元年(682)行俭卒。

行俭贞观中举明经，显庆初为长安令。高宗废王皇后，立武昭仪(武则天)，行俭私下和长孙无忌、褚遂良议论，被谮，贬为西州都督府长史。麟德二年(665)拜安西大都护，在西域时，诸部多慕义归附。乾封初，召为司文(鸿胪)少卿。总章中，迁司列少常伯(吏部侍郎)，与李敬玄、马载同掌选事十余年，甚有能名，时称“裴、李”、“裴、马”。当时承平日久，取得各种资格上吏部候选为官的人剧增，行俭和李敬玄委任员外郎张仁祎创立一些法规，使选任官职有一定的条例可循，为后来所承用。

行俭少时从大将军苏定方学习兵法，后来领兵出征，善于料敌决胜。他诚恳待人，获得士兵爱戴，故战多取胜。调露元年(679)西突厥十姓可汗阿史那匐延都支与李遮匐反叛，侵逼安西(今新疆库车)。当时行俭受命册送波斯王子泥涅师归国，途经西州时，募得万骑，便假为畋猎，以计俘都支，将吏于碎叶城为他立碑纪功。由于他“文武兼资”，高宗特授礼部尚书，兼检校右卫大将军。同年，东突厥阿史德温傅、阿史那伏念反叛，行俭以定襄道行军大总管统兵三十万出击。开耀元年(681)，以反间计逼伏念执温傅来降，余众悉平。永淳元年(682)行俭卒。