Der in Offenburg geborene Jurist war 1959 als Leiter des Referats „Organisation und Recht“ zu der Handwerkskammer nach Karlsruhe gekommen und wurde im November 1966 zum Hauptgeschäftsführer gewählt. Bis 1993 nahm er dieses verantwortungsvolle Amt wahr.
Zu den herausragenden Erfolgen des verdienstvollen Wirkens von Heribert Scherer zählt die Entwicklung von Existenzgründungslehrgängen im Kammerbezirk, die zum Vorbild für ganz Baden-Württemberg wurden. Er erweiterte das Dienstleistungsspektrum der Kammer um Serviceleistungen wie beispielsweise die Innovationsberatung, die Betriebs-, EU- und Umweltberatung.
Hauptgeschäftsführer a. D. Heribert Scherer war maßgeblich an der Konzeption der 1977 erbauten, heutigen Bildungsakademie der Handwerkskammer Karlsruhe, beteiligt. In seine Amtszeit fielen insbesondere die dort durchgeführten überbetrieblichen Lehrlingsausbildungen als Pflichtbestandteil in den meisten Handwerksausbildungsberufen. Das Ausbildungszentrum entwickelte sich zu einem der größten der Region, das heute über 5.000 Lehrlinge in der überbetrieblichen Lehrlingsunterweisung und 3.000 Teilnehmer pro Jahr in der Erwachsenenfortbildung qualifiziert. Daneben ist die Berufsorientierung eine wichtige Aufgabe der Bildungsakademie.
Scherer baute die Außenstellen in Baden-Baden und Pforzheim zu Häusern des Handwerks um mit dem Ziel, das Dienstleistungs- und Beratungsangebot in der Region zu verbessern. Mit der Akademie des Handwerks wurde eine „Managementschule“ in Karlsruhe eingerichtet, die eine Qualifikation zum Betriebswirt des Handwerks anbietet und damit der gestiegenen Nachfrage der Mitgliedsbetriebe nach modernem Managementwissen Rechnung trägt.
In die Ära von Heribert Scherer fielen die Vereinbarung für eine Charta zur grenzüberschreitenden Zusammenarbeit im Handwerk und die Partnerschaft mit der Handwerkskammer in Nancy. Der langjährige Hauptgeschäftsführer engagierte sich in zahlreichen regionalen und kammerübergreifenden handwerksnahen Institutionen.
Sein Engagement für Handwerk und Gesellschaft wurde mit dem Bundesverdienstkreuz Erster Klasse des Verdienstordens der Bundesrepublik Deutschland, der Goldenen Ehrennadel des Baden-Württembergischen Handwerkstags und der Ehrenmitgliedschaft bei der Handwerkskammer Karlsruhe gewürdigt.