Karl Kaiser studierte an den Musikhochschulen in Köln und Münster. Parallel dazu studierte Karl Kaiser außerdem Theologie, Philosophie und Musikwissenschaften an den Universitäten in Bonn und Köln. Seit mehr als 30 Jahren konnte er sich als Solist, Kammer- und Orchestermusiker im Bereich der historischen Interpretationspraxis sowie als Lehrer für historische Flöten einen hervorragenden Namen machen.
Karl Kaiser war 28 Jahre Soloflötist des Freiburger Barockorchesters. Mit diesem Ensemble hat er über Jahrzehnte in den großen Konzertsälen der Welt die Musik des 18. und 19. Jahrhunderts gespielt. Nach vielfältigen weiteren und inspirierenden Erfahrungen mit Solisten, Kammermusikgruppen und Orchestern konzentriert er sich heute auf wenige, sich ergänzende Ensembles und auf seine Lehrtätigkeit.
Karl Kaiser ist Gründungsmitglied des Orchesters La Stagione Frankfurt unter der Leitung von Michael Schneider. Als Soloflötist dieses Ensembles ist er auf CDs mit Flötenkonzerten von Telemann, Abel und Holzbauer zu hören. Er ist seit 35 Jahren Flötist der Camerata Köln mit weltweiten Konzerten und mit mehr als 50 CDs, die einen großen Teil der barocken und frühklassischen Kammermusikdokumentieren. Karl Kaiser ist Flötist des Ardinghello Ensemble, das Kammermusik der Klassik und Romatik für Flöte und Streichtrio spielt. CDs erscheinen bei MDG und CPO.
Karl Kaiser unterrichtet als Professor an der Hochschule für Musik und Darstellende Kunst Frankfurt und an der Musikhochschule in Freiburg barocke Traversflöte und klassisch-romantische Klappenflöte. Seine Erfahrungen und Forschungen als Musiker gibt er regelmäßig in Meisterkursen an die junge Generation weiter. Im Verlag "con brio" erschien 2010 seine Lehrschrift "Basiswissen Barockmusik". Im Verlag Walhall erschien 2014 sein Buch "Principes de la flûte" über die Lehren des Jacques Hotteterre.