Aus den Erwägungen:
1.- a) Gemäss Art. 14 Abs. 2 StHG werden die land- und forstwirtschaftlich genutzten Grundstücke zum Ertragswert besteuert. Das kantonale Recht kann bestimmen, dass bei der Bewertung der Verkehrswert mitberücksichtigt wird oder im Falle der Veräusserung oder Aufgabe der land- oder forstwirtschaftlichen Nutzung des Grundstückes eine Nachbesteuerung für die Differenz zwischen Ertrags- und Verkehrswert erfolgt. Die Nachbesteuerung darf für höchstens 20 Jahre erfolgen. Der Kanton Luzern, der bei der Bewertung der land- und forstwirtschaftlichen Grundstücke allein auf deren Ertragswert abstellt, sieht eine Nachbesteuerung im Sinne des StHG in Form der sogenannten nachträglichen Vermögenssteuer vor. So ist nach § 49 Abs. 1 StG eine nachträgliche Vermögenssteuer zu entrichten, wenn ein Grundstück, das gemäss § 15 Abs. 1 oder § 16 Abs. 1 des Schatzungsgesetzes zum Ertragswert besteuert wurde, veräussert oder der land- oder forstwirtschaftlichen Nutzung entzogen wird. Die Steuer wird entsprechend der Besitzdauer, höchstens jedoch für die letzten 15 Jahre erhoben. Die Besitzdauer erstreckt sich bei - wie vorliegend - ausserhalb des Kantons Luzern wohnenden Steuerpflichtigen bis zum Zeitpunkt, an dem das Grundstück veräussert wurde (§ 19 Abs. 3 StV). Handänderungen, bei denen die Besteuerung aufgeschoben wurde, was beispielsweise bei Eigentumswechsel durch Erbgang der Fall ist, werden bei der Berechnung der Besitzdauer nicht berücksichtigt (§ 49 Abs. 4 i.V.m. Abs. 3 lit. a StG). Bei Veräusserungen beträgt das steuerbare Vermögen die Hälfte der Differenz zwischen dem durchschnittlichen Steuerwert während der massgebenden Besitzdauer und dem Veräusserungserlös (§ 49 Abs. 2 lit. a StG). Für die Besitzdauer bis Ende 2000 ist laut Weisungen der Kantonalen Steuerverwaltung entsprechend des bis zu diesem Zeitpunkt in Kraft gestandenen Steuergesetzes vom 27. Mai 1946 (aStG) nur von 75 % des Veräusserungserlöses auszugehen (§ 36 Abs. 2 Ziff. 1 i.V.m. § 35 Abs. 2 lit. b aStG; vgl. LU StB, Weisungen nVSt, N 69). Die nachträgliche Vermögenssteuer beträgt für die Staats-, Gemeinde- und Kirchensteuer insgesamt 6 Promille pro Jahr. Sie wird durch die Einwohnergemeinde in einem besonderen, von der ordentlichen Einschätzung unabhängigen Verfahren festgesetzt (§ 49 Abs. 5 StG).
b) Die Gemeinde Z berechnete gestützt auf diese Vorschriften eine von den Beschwerdeführern geschuldete nachträgliche Vermögenssteuer von Fr. 36'550.55, wobei sie der Veranlagung eine Nachbezugsperiode von 15 Jahren (1.5.1989 - 1.5.2004), einen Veräusserungserlös von Fr. 1'016'550.-- (abzüglich übernommene Handänderungssteuer) sowie einen durchschnittlichen Steuerwert während der massgebenden Besitzdauer von Fr. 500.-- zugrunde legte.
c) Die Beschwerdeführer bestreiten nicht, dass aufgrund des Verkaufes des Grundstückes Nr. ..., GB Z, eine nachträgliche Vermögenssteuer geschuldet wird. Indes machen sie geltend, die schematische Berechnung gemäss § 49 StG habe in ihrem Fall zur Folge, dass die nachträgliche Vermögenssteuer gegenüber der ordentlichen Besteuerung viel zu hoch ausfalle. Die von ihnen zu entrichtende nachträgliche Vermögenssteuer dürfe nicht höher sein, als wenn das verkaufte Grundstück in der Vergangenheit bzw. den letzten 15 Jahren im ordentlichen Veranlagungsverfahren jeweils zum Verkehrswert besteuert worden wäre. In diesem Sinne sei denn auch die angefochtene Veranlagung zu revidieren.
2.- a) Da grundsätzlich jedes Grundstück vom Eigentümer veräussert werden kann, birgt jedes auch einen Markt- bzw. Verkehrswert in sich. Doch weicht dieser, verdeckt vom Ertragswert, in ein Stadium der Latenz zurück, wenn und solange der Eigentümer (persönlich oder durch Vermittlung eines Pächters) das Grundstück land- oder forstwirtschaftlich nutzt. Der Verkehrswert wird - mit der gesetzlich umschriebenen Rückwirkung - reaktiviert, falls der Eigentümer das Grundstück veräussert, d.h. wie eine Handelsware in Geld umsetzt, oder es seiner bisherigen Nutzung entfremdet. Mit anderen Worten erlischt die gesetzliche Privilegierung des bäuerlichen Grund und Bodens, und zwar rückwirkend auf eine bestimmte Zeitspanne, sobald und soweit der Eigentümer sein Grundstück nicht mehr land- oder forstwirtschaftlich nutzt, sondern geschäftsmässig verwertet, d.h. veräussert oder der Urproduktion entfremdet (vgl. Schmid, Von der ergänzenden Vermögenssteuer bei Grundstücken, in: StR 1981 S. 23). Nach konstanter verwaltungsgerichtlicher Rechtsprechung liegt dem Institut der nachträglichen Vermögenssteuer denn auch die agrarpolitische Überlegung zugrunde, Grundstücke nach dem Ertragswert zu besteuern, solange sie land- oder forstwirtschaftlich genutzt werden. Erfahrungsgemäss ist dieser Ertragswert tief angesetzt und liegt in jedem Fall unter dem eigentlichen Verkehrswert (vgl. LGVE 1994 II Nr. 19 Erw. 3b mit Hinweis auf LGVE 1981 II Nr. 12 Erw. 1). Das Abweichen von der Verkehrswertbewertung bei landwirtschaftlichen Grundstücken ist primär wirtschaftspolitisch motiviert. Würde der Gesetzgeber die land- oder forstwirtschaftlich genutzten Grundstücke einer uneingeschränkten Verkehrswertbesteuerung unterwerfen, so käme er mit den übrigen agrarpolitischen Massnahmen, die in der Verfassung und in verschiedenen anderen Erlassen zum Schutz der Landwirtschaft vorgesehen sind, in einen Zielkonflikt. Aus diesem Grunde werden die fiskalischen hinter die wirtschaftspolitischen Interessen gestellt und die land- oder forstwirtschaftlich genutzten Grundstücke zu einem Vorzugswert bewertet (Meuter, Die Ertragswertbewertung und ergänzende Vermögenssteuer, in: ZStP 1995 S. 2 f.). Im Zeitpunkt der Realisierung des Verkehrswertes, wie bei einer Veräusserung, soll jedoch der durch die Ertragswertbesteuerung bewirkte Steuerausfall durch eine Nachbesteuerung wenigstens teilweise ausgeglichen werden. Besteuert wird dabei nicht der aus der Veräusserung eines Grundstückes erzielte Gewinn, sondern das Vermögen, errechnet von der Hälfte der Differenz zwischen dem Veräusserungserlös (bzw. 75 % davon für die Zeit bis Ende 2000) und dem Mittel des Ertragswertes während der massgebenden Besitzdauer.
b) Ganz generell kann gesagt werden, dass sich ein Vergleich der nachträglichen Vermögenssteuer mit der ordentlichen Vermögensbesteuerung auf der Grundlage des Verkehrswertes schon von daher als problematisch erweist, da Letztere bei landwirtschaftlichen Grundstücken gerade nicht zur Anwendung gelangt. So sieht die gesetzliche Konzeption eben nicht vor, dass auch landwirtschaftliche Grundstücke zum Verkehrswert zu besteuern sind, sondern bei einer Veräusserung oder Zweckentfremdung solcher zum Ertragswert besteuerten Grundstücke eine nachträgliche Vermögenssteuer zu entrichten ist (§ 49 StG). Dabei entspricht es dem Gebot der rechtsgleichen Behandlung, dass die steuerliche Begünstigung, welche der Eigentümer eines landwirtschaftlichen Grundstückes bis dahin genossen hat, im Zeitpunkt der Veräusserung oder Zweckentfremdung - mindestens teilweise - ausgeglichen wird (vgl. StE 1991 B 52.22 Nr. 5 Erw. 1). Wie das Verwaltungsgericht bereits wiederholt festgehalten hat, lässt sich nun aber durch die Bemessungsvorschriften des § 49 StG eine gänzliche Gleichstellung mit der ordentlichen Vermögensbesteuerung nicht erreichen (vgl. noch unter der Geltung des aStG ergangene Urteile M. vom 28.1.2003 [A 02 10] sowie H. vom 16.1.2001 [A 00 13]). Wollte man genau rechnen, so müsste für jedes Jahr die bisherige Steuereinschätzung überprüft und geändert sowie für jedes Steuerjahr der Steuerbezug der neuen Einschätzung angepasst werden. Eine retrospektive Festsetzung eines Verkehrswertes für land- oder forstwirtschaftliche Grundstücke, welche oftmals Jahrzehnte in Familienbesitz waren und Bestandteil eines landwirtschaftlichen Betriebes gebildet haben, erwiese sich indes als schwierig und mit zahlreichen Unsicherheiten behaftet. Etwas Derartiges ist denn auch durch das Gesetz weder vorgesehen noch wurde solches vom Gesetzgeber beabsichtigt. So kann den Materialien zur Einführung der nachträglichen Vermögenssteuer im Jahre 1968 entnommen werden, dass die entgegenkommende Bewertung und Besteuerung eines land- oder forstwirtschaftlichen Grundstückes zum Ertragswert nur unter dem Vorbehalt verantwortet werden kann, dass die Besteuerung "zu einem angenäherten Verkehrswert" nachgeholt werden darf, wenn anlässlich einer Veräusserung oder Zweckentfremdung der im Grundstück verborgene Mehrwert auch tatsächlich realisiert wird (vgl. Ergänzungsbericht des Regierungsrates vom 28.10.1968 zur Botschaft vom 17.5.1968 zum Entwurf eines Gesetzes über die Abänderung des Steuergesetzes, in: Verhandlungen des Grossen Rates des Kantons Luzern, GR 1968, S. 399 [nachfolgend: Ergänzungsbericht]).
c) Aus den Bemessungsregeln des § 49 StG geht hervor, dass die Steuerberechnung bei der nachträglichen Vermögenssteuer vornehmlich aus Gründen der Praktikabilität stark vereinfacht worden ist. Solche Pauschalierungen sind nach der unter dem Gesichtspunkt des Grundsatzes der Rechtsgleichheit ergangenen Rechtsprechung des Verwaltungsgerichts durchaus zulässig, sofern im Einzelfall nicht besonders stossende Ergebnisse resultieren, garantiert doch Art. 4 aBV (Art. 8 BV) keine absolute Rechtsgleichheit. Gerade im Steuerrecht ist der Praktikabilitätsgrundsatz von erheblicher Bedeutung, sind doch die Steuerbehörden auf klare und einfach zu handhabende Bestimmungen angewiesen. Pauschalierungen und Schematisierungen sind deshalb insofern und insoweit in Kauf zu nehmen, als sich die resultierenden Ungleichheiten in einem zumutbaren Rahmen halten (LGVE 1993 II Nr. 21 Erw. 3c mit Hinweis auf LGVE 1989 II Nr. 25, jeweils betreffend die Handänderungssteuer). So hat denn auch der Gesetzgeber gerade im Abgaberecht weitgehende Gestaltungsfreiheit. Von Verfassungs wegen ist bloss einzugreifen, wenn der Gesetzgeber mit den Unterscheidungen, die er trifft oder unterlässt, eine Grenze zieht, die sich nicht vernünftig begründen lässt, die unhaltbar und damit in den meisten Fällen auch geradezu willkürlich ist (vgl. BGE 116 Ia 324 Erw. 3d und 114 Ia 224 Erw. 2b; ferner StR 1994 S. 373 f. Erw. 5a).
3.- a) Die Beschwerdeführer machen geltend, dass das mit Vertrag vom 29. April 2004 verkaufte Grundstück erst durch die Einzonung bzw. die Zuordnung zu einer Baulandzone einen markanten Werteanstieg erfahren habe, was dann auch zum erzielten Veräusserungserlös von gut 1 Mio. Franken geführt habe. Die Zuordnung des veräusserten Grundstückes zur Baulandzone, konkret zur Wohnzone W2, sei nun erst mit der Revision des Bau- und Zonenreglementes (BZR) der Gemeinde Z vom 2. Dezember 2001 bzw. mit Genehmigung dieses Reglementes durch den Regierungsrat vom 17. Dezember 2002 erfolgt. Dies bedeute, dass der Verkehrswert des Grundstückes erst am Ende der gemäss § 49 StG massgebenden Besitzdauer von 15 Jahren (1.5.1989 - 30.4.2004) in diese Höhe gestiegen sei. Es rechtfertige sich daher nicht, wie dies die schematische Berechnungsweise des § 49 StG mit sich bringe, davon auszugehen, dass sich der Verkehrswert des veräusserten Grundstückes in den 15 Jahren vor dem Verkauf von Fr. 500.-- (per 1.5.1989) kontinuierlich auf Fr. 1'016'550.-- (per 1.5.2004) entwickelt oder in den vergangenen 15 Jahren durchschnittlich mindestens 50 % des Veräusserungserlöses betragen habe. Das veräusserte Grundstück habe, bevor es der Wohnzone W2 zugeordnet worden sei, den Verkehrswert von Landwirtschaftsland gehabt. Dieser sei realistischerweise auf Fr. 5.-- pro m2 festzusetzen, was bei einer Grundstücksgrösse von 2'259 m2 einen Wert von Fr. 11'295.-- ergibt. Die schematische Berechnungsweise des § 49 StG habe somit in ihrem Fall zur Folge, dass die erhobene Nachsteuer viel zu hoch sei.
b) Für das hier in Frage stehende Grundstück Nr. ..., GB Z, betrug der Ertragswert, zu dem die Beschwerdeführer das Land während der gesamten massgebenden Besitzdauer von 15 Jahren zu versteuern hatten, jeweils Fr. 475.-- bzw. gerundet Fr. 500.--. In diesem Grundstück war indes immer auch ein deutlich über diesem Wert liegender Mehrwert (Verkehrswert) latent vorhanden, und dieser soll mit der nachträglichen Vermögenssteuer über höchstens 15 Jahre rückwirkend erfasst werden. Dies alles wird von den Beschwerdeführern denn auch nicht in Abrede gestellt. Dem Umstand, dass die Wertsteigerung der veräusserten Parzelle (in Bezug auf deren Verkehrswert) erst allmählich im Laufe der Zeit eingetreten ist, soll nun gerade dadurch Rechnung getragen werden, dass der Nachbesteuerung lediglich die Hälfte der Differenz zwischen 75 % (bis Ende 2000) bzw. 100 % (ab 2001) des Veräusserungserlöses und dem Mittel des Steuerwertes während der massgebenden Besitzdauer zugrunde gelegt, mit anderen Worten nur die mittlere Zuwachsrate berücksichtigt wird (vgl. Ergänzungsbericht, a.a.O., S. 400). Dass hierbei am erzielten Veräusserungserlös angeknüpft wird, der in der Regel ja unmittelbar den Markt- bzw. Verkehrswert des verkauften Grundstückes im Veräusserungszeitpunkt wiedergibt, steht den Vorschriften des StHG, konkret Art. 14 Abs. 2 StHG, gerade nicht entgegen. Sodann wird unabhängig davon, wie lange die verkaufte Parzelle im Familienbesitz der Beschwerdeführer war, die nachträgliche Vermögenssteuer nur rückwirkend für die letzten 15 Jahre erhoben, auch wenn die privilegierte Besteuerung zum Ertragswert länger angedauert hat. Dies ganz im Gegensatz zur ordentlichen Vermögensbesteuerung, welche sich auf die gesamte Besitzdauer erstreckt. Kommt dazu, dass bei der nachträglichen Vermögenssteuer ein Vergütungszins (als Entgelt für die erst nachträglich zu bezahlende Steuer auf dem den Ertragswert übersteigenden Wert der Liegenschaft) nicht geschuldet ist. All dies sind Elemente, die im Rahmen der schematischen Bemessungsregeln des § 49 StG für die Beschwerdeführer, im Vergleich mit denjenigen Steuerpflichtigen, welche ihre Vermögenswerte über all die Jahre zum Verkehrswert zu versteuern hatten, durchaus vorteilhaft sind. Wie sich weiter aus dem BZR der Gemeinde Z vom 28.11.1982/28.9.1986 bzw. dem zugehörigen Zonenplan ergibt, der dann später durch das bereits erwähnte Reglement vom 2. Dezember 2001 ersetzt worden war, gehörte das Grundstück Nr. ..., GB Z, von dem das hier in Frage stehende Grundstück Nr. ... abparzelliert und veräussert worden ist, nicht mehr der Landwirtschaftszone an. Es war vielmehr der Zone "übriges Gemeindegebiet" zugeordnet. Diese Zone ist gemäss Art. 25 Abs. 1 BZR (in der Fassung vom 28.11.1982/28.9.1986) für die langfristige Siedlungsentwicklung der Gemeinde im Sinne des Zonenrichtplanes bestimmt. Das Grundstück Nr. ..., respektive die davon abgetrennte Parzelle Nr. ..., wurde ja dann auch mit der BZR-Revision im Jahre 2001 einer Bauzone, konkret der zweigeschossigen Wohnzone W2 zugeteilt. Demnach stellte das fragliche Grundstück während der gesamten vorliegend massgebenden 15-jährigen Besitzdauer (1.5.1989 - 30.4.2004) Bauerwartungs- bzw. Bauland dar. Auch unter diesem Aspekt kann gerade nicht gesagt werden, dass das der angefochtenen Veranlagung zugrunde gelegte steuerbare Vermögen, veranlagt nach den Berechnungsvorschriften des § 49 StG, offenkundig von den tatsächlichen Verhältnissen abweicht.
c) Es mag durchaus zutreffen, dass die in § 49 StG vorgesehenen Bemessungsregeln mit den darin enthaltenen Pauschalierungen mangels genügender Abstufungen und Feinheiten nicht allen zu regelnden Verhältnissen vollkommen gerecht zu werden vermögen. Mit Blick auf das eben Ausgeführte kann indessen im hier zu beurteilenden Sachverhalt nicht von einer klaren Benachteiligung der Beschwerdeführer gegenüber der ordentlichen Vermögensbesteuerung während der gesamten Besitzdauer gesprochen werden. Die Beschwerde erweist sich damit als unbegründet und ist folglich abzuweisen.