Aus den Erwägungen:
Nach Ansicht der Beschwerdegegnerin stellt ein hängiges Nach- und Strafsteuerverfahren einen hinreichenden Ausschlussgrund dar.
b) Bei den Ausschlussgründen im Sinne von § 16 öBG, worin auf § 4 öBG verwiesen wird, muss es sich gemäss Botschaft um schwerwiegende Gründe, welche den betreffenden Anbieter als nicht (mehr) zur Leistungserfüllung geeignet erscheinen lassen, handeln. Bei untergeordneten Fehlern auf seiten eines Anbieters könne es dagegen angebracht sein, die betreffenden Mängel beheben zu lassen; ein Ausschluss aus dem Vergabeverfahren wäre dann unverhältnismässig. Es müsse in jedem Einzelfall geprüft werden, ob ein Verfahrensausschluss begründet und verhältnismässig sei. So wäre es beispielsweise stossend, wenn ein Anbieter nur deshalb ausgeschlossen würde, weil wegen eines Fehlers seiner Bank eine Steuerzahlung zu spät eingegangen sei (Botschaft zum öBG, a.a.O., S. 307).
Im Unterschied zum Kanton Luzern kennt der Kanton Zürich bei Vorliegen der entsprechenden Voraussetzungen sogar eine Ausschlusspflicht der Vergabestellen (vgl. § 26 Abs. 1 SVO-ZH). Allerdings sei diese Regelung im Bewusstsein erfolgt, dass auch bei dieser Formulierung das Verhältnismässigkeitsprinzip angewendet werden müsse, dass also in geringfügigen Fällen im Sinne des Verbots des überspitzten Formalismus ein Ausschluss nicht möglich sei (Lang, Offertbehandlung und Zuschlag im öffentlichen Beschaffungswesen, in: ZBl 2000 S. 234). Sodann ergibt sich sinngemäss auch aus Art. 13 der Interkantonalen Vereinbarung über das öffentliche Beschaffungswesen vom 25. November 1994 (IVoeB, SR 172.056.4), dass der Auftraggeber an die allgemeinen Rechtsgrundsätze des Verwaltungsrechts gebunden ist und sich nicht auf einen unbedeutenden Mangel stützen darf, um einen Anbieter auszuschliessen (vgl. auch RFJ-FZR 1997 S. 113).
Auch ein vergleichender Blick auf die Rechtsprechung zu den andern Ausschlussgründen im Vergabeverfahren zeigt auf, dass der Ausschlussgrund eine gewisse Schwere aufweisen muss. Demnach rechtfertigen Verhalten mit Bagatellcharakter in der Regel keinen Ausschluss. So erfüllt die Tatsache, dass eine Anbieterin, die vorgängig in gleicher Sache mit der Ausarbeitung der Vergabeunterlagen betraut oder als Sachverständige beigezogen wurde, nicht ohne weiteres einen Ausschlussgrund. Verlangt wird vielmehr ein qualifizierter Tatbestand, wonach das als Beteiligte oder Sachverständige im Vorfeld einer Vergabe erlangte Wissen auch wirtschaftlich genutzt werden kann und so Einfluss auf die Höhe eines oder mehrerer Wettbewerbsangebote haben könnte (PVG 1999 Nr. 59). Ein Angebot darf auch nicht wegen bloss geringfügiger Formfehler ausgeschlossen werden (ZBl 2000 S. 271). Sodann ist ein Ausschluss aus dem Wettbewerb wegen unvollständiger Angebote nur zulässig, wenn der Mangel schwerwiegend und nicht ohne Wettbewerbsverfälschung behebbar ist (EGVSZ 1997 S. 198).
c) Zunächst ist festzuhalten, dass das Nach- und Strafsteuerverfahren gegen das Ehepaar B mindestens im Zeitpunkt der Ausschlussverfügung noch hängig und somit eine steuerrechtliche Verfehlung - von welchem Ehepartner auch immer - bis dahin nicht dargetan war (vgl. § 32 öBG). Das steuerrechtliche Ermittlungsverfahren dient naturgemäss der Abklärung gewisser offener Fragen, was zur Feststellung einer Steuerhinterziehung führen kann, aber nicht notwendigerweise auch muss. So kann es durchaus vorkommen, dass ein Nach- und Strafsteuerverfahren ohne Feststellung einer diesbezüglichen Verfehlung geschlossen wird.
Soweit es um Strafsteuern geht, sind die strafprozessualen Grundsätze und verfahrensrechtlichen Mindestgarantien zu beachten (Urteil P. vom 9.3.2000 mit Verweis auf LGVE 1992 II Nr.18, 1989 II Nr. 19). Dazu gehört auch die in Art. 32 Abs. 1 BV und Art. 6 Ziff. 2 der EMRK verankerte Unschuldsvermutung (zum Ganzen: BGE 121 II 273 Erw. 3b; Tophinke, Das Grundrecht der Unschuldsvermutung, Diss. Bern 2000, S. 138 und 257). Diese Garantie hat die Aufgabe, die beschuldigte Person vor unzulässigen Vorverurteilungen zu schützen. Die Vermutung erstreckt sich auf die Existenz von Sachverhaltselementen, die als Grundlage für einen Schuldspruch beziehungsweise für den Erlass einer Strafsteuerverfügung dienen können; dies ohne Rücksicht darauf, ob die Sachverhaltselemente dereinst tatsächlich Grundlage für eine strafrechtliche Sanktion bilden werden. Soweit sie nicht rechtskräftig festgestellt sind, sind sie nicht zu vermuten. Der gesetzliche Beweis der Schuld wird erst durch eine rechtskräftige Verurteilung erbracht (Tophinke, a.a.O., S. 148).
§ 16 Abs. 2 lit. d in Verbindung mit § 4 lit. a öBG kann grundsätzlich wohl auch dann greifen, wenn der Betroffene nur die Nachsteuer zu begleichen hat, weil ihn mit Bezug auf die versäumte Steuerzahlung gar kein Verschulden trifft (§ 150 Abs. 3 in Verbindung mit § 149 StG). Unerlässliche Voraussetzung für einen Ausschluss wird aber auch in diesem Fall sein, dass die Unvollständigkeit der Versteuerung rechtskräftig festgestellt ist. Vorher darf derlei nicht vermutet werden. Indem die Beschwerdegegnerin das noch hängige steuerrechtliche Ermittlungsverfahren zum Anlass nahm für einen Ausschluss des Beschwerdeführers mit der Begründung, damit sei erstellt, dass der Beschwerdeführer nicht gewährleisten könne, seinen öffentlich-rechtlichen Verpflichtungen im Sinne von § 4 lit. a öBG nachzukommen, handelte sie nicht nur in Widerspruch zu den eigentlichen Tatsachen, sondern auch in Verletzung der verfassungsmässigen Grundsätze der Unschuldsvermutung und der Verhältnismässigkeit (Art. 32 Abs. 1 und Art. 5 Abs. 2 BV). In unzulässiger Weise nahm sie damit den Entscheid der steuerrechtlichen Ermittlungen vorweg. Inwiefern der blosse Umstand des laufenden Untersuchungsverfahrens allein den Beschwerdeführer zur Leistungserfüllung ungeeignet erscheinen liesse, ist nicht ersichtlich. Insbesondere ist damit auch nicht dargetan, dass der Beschwerdeführer den Vergabegrundsatz von § 4 lit. a öBG verletzt haben sollte, zumal blosse Zweifel in dieser Hinsicht - entgegen der Beschwerdegegnerin - nicht genügen. Bereits aus diesem Grund muss der Ausschluss des Beschwerdeführers vom 31. Mai 2000 als rechtswidrig bezeichnet und aufgehoben werden. Damit kann offen gelassen werden, ob die angefochtene Verfügung aufgrund des geringfügigen Betrages vor dem Grundsatz der Verhältnismässigkeit Bestand hätte.