Weihbischof Diez stammt aus dem katholischen Freigericht. Geboren am 20. Februar 1954 in Horbach absolvierte er seine Gymnasialzeit am Progymnasium in Freigericht-Somborn und später als Konviktorist am Domgymnasium in Fulda. Nach dem Abitur 1972 trat er ins Fuldaer Priesterseminar ein. 1973 schickte ihn Bischof Dr. Adolf Bolte nach Rom, wo er bis 1979 im Collegium Germanicum et Hungaricum wohnte, an der Päpstlichen Universität Gregoriana studierte und sein Lizentiat mit „summa cum laude“ abschloss. In Rom weihte ihn der Fuldaer Bischof Prof. Dr. Eduard Schick am 19. März 1977 zum Diakon. Am 10. Oktober 1978 empfing er in Rom die Priesterweihe durch den damaligen Erzbischof von Esztergom (Ungarn), Kardinal Làszlò Lékai. Nach der Priesterweihe war er von 1979 bis 1981 als Kaplan in der Pfarrei St. Marien in Kassel (Rosenkranzkirche) tätig.

Diez setzte seine Studien an der Gregoriana in Rom fort, wohnte im Collegium Santa Maria dell`Anima und wurde 1985 mit der Arbeit „Christus und seine Kirche. Zum Kirchenverständnis des Petrus Canisius“ zum Doktor der Theologie promoviert. Die Promotion schloss er ebenfalls mit dem Prädikat „summa cum laude“ ab. Danach studierte Diez bis 1988 in Mainz weiter und wurde zugleich mit diözesanen Aufgaben betraut. Dr. Diez war in den Jahren 1985 bis 2000 eng mit Bischof emeritus Eduard Schick verbunden, dem er als Mitarbeiter zur Seite stand. Von 1989 bis 2000 wirkte er als Subregens am Fuldaer Priesterseminar. Im Jahre 1995 habilitierte er sich in Mainz für das Fach „Dogmatik und ökumenische Theologie“.

Von März 1993 bis 1996 war Karlheinz Diez Ökumenereferent und wirkte von 1990 bis 1999 als Geistlicher Mentor der angehenden Gemeindereferentinnen und -referenten im Bistum Fulda. 1998 erfolgte seine Ernennung zum ordentlichen Professor für Liturgiewissenschaft an der Theologischen Fakultät Fulda durch Erzbischof Dr. Dr. Johannes Dyba. 2001/2002 wurde er von der Fakultätskonferenz der Theologischen Fakultät Fulda zum Prorektor gewählt. Bischof Heinz Josef Algermissen ernannte ihn 2002 zum ordentlichen Professor für Dogmatik, Dogmengeschichte und ökumenische Theologie. Papst Johannes Paul II. verlieh ihm im August desselben Jahres in Anerkennung seiner Verdienste den Titel „Päpstlicher Kaplan“ (Monsignore).

Am 13. Juli 2004 ernannte ihn Papst Johannes Paul II. zum Weihbischof in Fulda in der Nachfolge von Weihbischof Johannes Kapp. Diez ist als Weihbischof Titularbischof von Villa Regis, einem erloschenen Bischofssitz in Numidien (Nordafrika). Am 26. September 2004 wurde er im Hohen Dom zu Fulda von Bischof Algermissen zum Bischof geweiht. Im Juni 2005 ernannte ihn der Bischof zum Domkapitular an der Fuldaer Kathedralkirche. Weihbischof Diez war seit 2004 Bischofsvikar für Fortbildung und seit April 2010 Bischofsvikar für Liturgie.

Nachdem der Fuldaer Bischofsstuhl am 5. Juni 2018 infolge der Annahme des Rücktrittsgesuchs von Bischof Algermissen durch den Papst vakant geworden war, wählte das Fuldaer Domkapitel Weihbischof Diez am 9. Juni zum Diözesanadministrator. Bis zur Neubesetzung des Bischöflichen Stuhles leitete er die Diözese Fulda.

Mit Wirkung zum 1. Januar 2021 ernannte ihn Bischof Dr. Michael Gerber zum Bischofsvikar für den Bereich Weltkirche. Als Domdechant steht Weihbischof Diez dem Fuldaer Domkapitel seit November 2021 vor. Dem Domdechanten obliegen unter anderem die Beaufsichtigung von Restaurierungsarbeiten sowie die Genehmigung von Veranstaltungen im Dom. Darüber hinaus ist er Präses der Chöre am Fuldaer Dom und für Dommuseum und Kirchenmusik zuständig.

In der deutschen Bischofskonferenz gehört Weihbischof Diez der Glaubenskommission sowie der Kommission für die Weltkirche und der Unterkommission für den Interreligiösen Dialog an.