赵贵，字元宝，天水南安人。祖父赵仁，以良家子弟的身份从军镇守武川，因而在那里安家。
他从小就有道德气概，..朱荣任他为别将，随..朱荣讨伐元颢立有功劳，被赐爵为燕乐县子。他跟随贺拔岳平定关中，升任为大都督。贺拔岳被侯莫陈悦害死，将领和官吏大多逃散，没有能坚守军营的。他对贺拔岳的部下说“：我听说仁义不管怎么也不可能经常保留在一个人身上，实行仁义你就可以成为君子，违背仁义则成为小人。朱伯厚、王修还能被意气和微小的恩德所激发，更何况我们这些人蒙受贺拔公国士一样的待遇，怎么能同一般人一样呢？”因而失声痛哭，跟从他的有五十个人。他们到侯莫陈悦那里诈称投降，侯莫陈悦相信了，因而他请求埋葬贺拔岳，言词慷慨激昂。侯莫陈悦称赞他的行为并同意他的请求。他便将贺拔岳的尸体运回军营，与寇洛等人逃向平凉，共同谋图对抗侯莫陈悦。他首次提议迎接周文帝宇文泰。宇文泰率军来到后，任赵贵为大都督，领府司马。侯莫陈悦被荡平，他代管秦州的政务。
后来，因参与拥立魏元帝元宝炬的功劳，被晋爵为公。梁..定在黄河以西作乱，朝廷命赵贵为陇西行台，打败乱军。他又率军收复弘农，战于沙苑，因立功晋爵为中山郡公。河桥之役，他与怡峰为左军，作战失利，提前退还。高仲密率北豫州投降，宇文泰派军接应他，与东魏的军队在邙山作战。他为左军，因违犯军律，坐罪被免去官职。不久，又恢复了官职爵位。后来，被封为柱国大将军，赐姓乙佛氏。孝闵帝即皇帝位，建立北周，他又升任为大冢宰，晋封为楚国公，食邑万户。
当初，他与独孤信等与宇文泰都是平辈相称。晋公宇文护掌管朝政，他以元勋自居，常泱泱不快，与独孤信密谋杀死宇文护，被开府宇文盛告发，被处死。