Aus den Erwägungen:
b) Der Fristenlauf beginnt nach dem Gesetzestext mit dem Ende des Monats zu laufen, für welchen - nach den Bestimmungen des Einzelgesetzes - die Leistung geschuldet war. Was den invalidenversicherungsrechtlichen Rentenanspruch betrifft, ist Art. 29 IVG (in der bis 31.12.2007 in Kraft gewesenen Fassung) massgebend. Danach entsteht der Rentenanspruch frühestens in dem Zeitpunkt, in dem der Versicherte mindestens zu 40% bleibend erwerbsunfähig geworden ist oder während eines Jahres ohne wesentlichen Unterbruch durchschnittlich mindestens zu 40% arbeitsunfähig gewesen war, wobei die Rente vom Beginn des Monats an ausgerichtet wird, in dem der Anspruch entsteht.
Abweichend von Art. 24 Abs. 1 ATSG werden die Leistungen der Invalidenversicherung lediglich für die zwölf der Anmeldung vorangehenden Monate ausgerichtet, wenn sich ein Versicherter mehr als zwölf Monate nach Entstehen des Anspruchs anmeldet. Weitergehende Nachzahlungen werden innerhalb der fünfjährigen Verwirkungsfrist erbracht, wenn der Versicherte den anspruchsbegründenden Sachverhalt nicht kennen konnte und die Anmeldung innert zwölf Monaten nach Kenntnisnahme vornimmt (vgl. Art. 48 Abs. 2 IVG, in der bis 31.12.2007 gültigen Fassung; vgl. auch Meyer-Blaser, Rechtsprechung des Bundesgerichts zum IVG, Zürich 1997, S. 284). Meldet sich ein Versicherter rechtzeitig - d.h. innerhalb von zwölf Monaten seit Entstehung des Anspruchs - und rechtsgenüglich bei der Invalidenversicherung zum Leistungsbezug an, wahrt er damit grundsätzlich alle seine zu diesem Zeitpunkt gegenüber der IV bestehenden Leistungsansprüche, womit der Anmeldung zum Leistungsbezug formell grundsätzlich eine unbefristete Wirkung zuzuerkennen ist. Dies gilt selbst dann, wenn der Versicherte die Leistungsansprüche im Anmeldeformular nicht im Einzelnen angibt. Dieser Grundsatz findet hingegen nicht Anwendung auf Leistungen, die in keinem Zusammenhang mit den sich aus den Angaben des Versicherten ausdrücklich oder sinngemäss ergebenden Begehren stehen und für die auch keinerlei aktenmässige Anhaltspunkte die Annahme erlauben, sie könnten ebenfalls in Betracht fallen. Denn die Abklärungspflicht der Verwaltung erstreckt sich aufgrund der Untersuchungsmaxime und des Grundsatzes der Rechtsanwendung von Amtes wegen auf sämtliche Leistungsansprüche, die vernünftigerweise mit dem vorgetragenen Sachverhalt und allfälligen bisherigen oder neuen Akten in Zusammenhang stehen (vgl. BGE 111 V 264f. E. 3b; EVG-Urteil I 10/05 vom 14.6.2005 E. 1.3).
d) Nach der Rechtsprechung entfaltet sich die unbefristete Wirkung der Anmeldung indes dann nicht, wenn die Verwaltung über den Leistungsanspruch mit unangefochten in Rechtskraft erwachsener Verfügung befunden hat. Des Weiteren kommt es trotz grundsätzlich unbefristeter Anmeldung und trotz Fehlens einer den fraglichen Leistungsanspruch betreffenden rechtskräftigen Verfügung zu keiner bis zu dieser Anmeldung zurückreichenden Nachzahlung, wenn für die Folgezeit ein ausdrücklicher oder stillschweigender Verzicht auf Leistungen angenommen werden muss (vgl. BGE 121 V 197 E. 2).
e) Dem eben erwähnten BGE 121 V 195 lag in tatsächlicher Hinsicht zugrunde, dass der Versicherten nach mehreren Formularanmeldungen verschiedene Leistungen wie medizinische Massnahmen, Sonderschulung und Hilfsmittel gewährt wurden. Nach einer weiteren Anmeldung (33 Jahre später) sprach die IV-Stelle rückwirkend (zwölf Monate vor der Anmeldung) eine Hilflosenentschädigung zu. Das Gericht hielt dazu fest, dass die Verwaltung bereits aufgrund der erstmaligen Anmeldung gehalten gewesen wäre, die Hilfsbedürftigkeit der Versicherten abzuklären. Dabei wäre sie ohne Weiteres zum Ergebnis gelangt, es habe schon damals eine leichte Hilflosigkeit bestanden. Das Eidgenössische Versicherungsgericht betonte in der Folge unter Hinweis auf BGE 116 V 273, der Anmeldung zum Leistungsbezug komme gerade keine auf fünf Jahre befristete Wirkung zu (formell grundsätzlich unbefristete Wirkung). Für den zu beurteilenden Fall erwog es jedoch, dass die Fristen des Art. 48 IVG (in der bis 31.12.2002 gültig gewesenen Fassung) nicht nur mit Bezug auf die für eine Leistung massgebende, substanziierte Anmeldung anwendbar seien. Die fünfjährige Frist komme im Rahmen eines späteren Gesuchsverfahrens im Sinn einer absoluten Verwirkungsfrist ebenfalls für eine Nachzahlung zum Tragen, wenn die Verwaltung einen seinerzeit hinreichend substanziiert geltend gemachten Leistungsanspruch übersehen habe. In diesem Fall unterliege die Nachzahlung einer absoluten Verwirkungsfrist von fünf Jahren, welche rückwirkend ab dem Zeitpunkt der Neuanmeldung zu berechnen sei (vgl. BGE 121 V 195).
b) In tatsächlicher Hinsicht ist davon auszugehen, dass sich die Beschwerdeführerin am 20. Januar 2000 zum Leistungsbezug bei der Invalidenversicherung anmeldete. Damit veranlasste sie die gesetzliche Abklärung ihrer allfälligen Ansprüche auf Leistungen der Invalidenversicherung. Zwar machte die Versicherte in der Anmeldung lediglich eine Berufsberatung und eine Umschulung in eine andere Tätigkeit geltend. Nach Lage der Akten finden sich indessen genügend Hinweise (vgl. u.a. die attestierten Arbeitsunfähigkeiten), welche - im Sinn der Rechtsprechung (vgl. E. 2b hievor) - Anlass zur Prüfung einer Invalidenrente im relevanten Zeitraum gegeben hätten (vgl. u.a. die Berichte des Psychiatriezentrums A vom 22.3.1999 und vom 10.1.2001 sowie den Bericht des Dr. B vom 7.2.2000).
In der Folge verneinte die IV-Stelle mit Verfügung vom 10. November 2005 einen Rentenanspruch ab Juli 2004. Gegen die ablehnende Verwaltungsverfügung erhob die Versicherte Beschwerde. Das Verwaltungsgericht stellte im unangefochtenen Urteil vom 13. Oktober 2008 für den Zeitraum ab Juli 2004 einen Invaliditätsgrad von gerundet 13% fest, weshalb es diesbezüglich einen Anspruch auf Rente verneinte. Hingegen hielt das Verwaltungsgericht den massgeblichen Sachverhalt für den Leistungsentscheid über die mit der Anmeldung eröffnete Zeitspanne von Januar 1999 (zwölf Monate vor der Anmeldung zum Leistungsbezug) bis Juli 2001 (Beginn der Umschulung) für in Verletzung der gesetzlichen Untersuchungspflicht der Verwaltung nicht genügend abgeklärt. Entsprechend ordnete das Gericht denn auch - unter Hinweis auf die Erwägungen (E. 9b) - die Rückweisung der Sache zur ergänzenden Abklärung an die Verwaltung an, damit diese danach über eine befristete Rente oder ein Wartetaggeld verfüge (Dispositiv Ziffer 2 des erwähnten Urteils).
c/aa) Wie bereits dargelegt (vgl. E. 2e hievor), kommt die absolute Verwirkungsfrist von fünf Jahren - nach rechtzeitiger erstmaliger Anmeldung - auch für eine Nachzahlung zum Tragen, wenn die Verwaltung einen Leistungsanspruch übersehen hat.
Nachdem das Wartejahr vorliegend im August 1999 abgelaufen war und sich die Beschwerdeführerin am 20. Januar 2000 zum Leistungsbezug anmeldete, ist von einem potenziellen Rentenbeginn ab 1. August 1999 auszugehen (vgl. Bericht des Dr. B vom 7.2.2000; vgl. auch Art. 29 IVG bzw. Art. 48 Abs. 2 Satz 1 IVG, in der bis 31.12.2002 gültig gewesenen Fassung). Mithin konnte die Verwirkung bezüglich des Rentenanspruchs für den Monat August 1999 frühestens Ende August 2004 eintreten, sofern die Verwaltung den Anspruch während dieser Zeit übersehen hatte (vgl. Art. 48 Abs. 1 IVG in Verbindung mit Art. 24 ATSG, in der bis 31.12.2007 gültig gewesenen Fassung; vgl. auch E. 2c hievor). Aus dem Verlaufsprotokoll der IV ist jedoch ersichtlich, dass die Verwaltung die Berufsberatung bereits im Juni 2004 abschloss und das Dossier zur Rentenprüfung an die Sachbearbeitung weiterleitete (vgl. Abschlussprotokoll der Berufsberatung vom 22.6.2004). Daraufhin erkundigte sich am 1. September 2004 auch die Versicherte nach dem Stand des Verfahrens und der Rente, worauf man ihr mitteilte, dass der Fall beim medizinischen Fachdienst zur Beurteilung der Arbeitsfähigkeit sei (vgl. Protokolleintragung vom 1.9.2004).
Unter diesen Umständen war eine Verwirkung des Rentenanspruchs nicht möglich, hat doch die Verwaltung den Anspruch nicht im Sinne der dargelegten Rechtsprechung während fünf Jahren oder länger übersehen, was eine Beschränkung der Nachzahlung auf die letzten fünf Jahre gemäss Art. 48 Abs. 1 IVG in Verbindung mit Art. 24 ATSG (in der bis 31.12.2007 gültig gewesenen Fassung) zur Folge gehabt hätte (vgl. BGE 121 V 195).
Dies muss unabhängig davon gelten, ob sich die Anspruchsprüfung der IV-Stelle bezüglich der Rente auf den Zeitraum vor oder nach allfälligen beruflichen Massnahmen bezieht. Es ist nicht Aufgabe der versicherten Person, sich zu vergewissern, dass die Verwaltung den Rentenanspruch während des gesamten relevanten Beurteilungszeitraums (vgl. hierzu BGE 132 V 220 E. 3.1.1) prüft, um gegebenenfalls eine neue Anmeldung bezüglich der allenfalls unbeachtet gebliebenen Zeitspanne einzureichen. Massgebend ist vielmehr, ob mit der Prüfung des Rentenanspruchs überhaupt begonnen wurde. Verfügt die IV-Stelle in der Folge in rechtswidriger Weise nicht über den gesamten Zeitraum, kann und muss die versicherte Person diesen Fehler mittels Beschwerde rügen. Im Beschwerdeverfahren darf das Sozialversicherungsgericht sodann auch von Amtes wegen über die Dauer der auszurichtenden IV-Rente - im relevanten Beurteilungszeitraum - befinden.
bb) (...)
cc) Mit Blick auf den Grundsatz von Treu und Glauben (Art. 9 BV) kann auch keine Verwirkung eintreten, wenn die versicherte Person in der Anmeldung explizit einen bestimmten Anspruch geltend macht. Diesfalls ist für die Fristwahrung gemäss Art. 24 ATSG bezüglich dieses Anspruchs einzig auf die erstmalige Anmeldung abzustellen. Denn die Anmeldung ist das einzige der versicherten Person zur Verfügung stehende Instrument, um auf die Zusprechung einer Leistung hinzuwirken. Es wäre deshalb wider Treu und Glauben, wenn sich der Versicherte trotz einer vor Eintritt der Verwirkung gestellten Anmeldung erneut beim Versicherungsträger anmelden muss, um seiner Ansprüche nicht verlustig zu gehen, falls dieser in der Zwischenzeit untätig geblieben ist. Wurde mit der Leistungsprüfung begonnen, darf eine lange Dauer des Verwaltungs- und allenfalls des Gerichtsverfahrens nicht zur Verwirkung von Versicherungsansprüchen führen, denn es ist Sache der Verwaltung, im Rahmen der Untersuchungsmaxime für eine speditive Behandlung der ihr unterbreiteten Leistungsgesuche zu sorgen (vgl. auch Kieser, a.a.O., Rz. 19 zu Art. 24).
d) (...)
Die Ausführungen der IV-Stelle, welche für die Berechnung der fünfjährigen Frist auf die angefochtene Verfügung vom 29. Mai 2009 abstellen will, gehen bei dieser Sachlage von vornherein fehl.
e) Insoweit, als sich die Verwaltung für ihre Auffassung, für die Zeit vom 1. August 1999 bis 30. Juli 2001 sei eine Rente zwar grundsätzlich geschuldet, aber die Leistung zufolge Fristablaufs verwirkt, auf die Rechtsprechung des Bundesgerichts beruft (BGE 121 V 195, BG-Urteil 9C_582/2007 vom 18.2.2008), verkennt sie deren Gehalt. So betrifft das Leistungsgesuch der Beschwerdeführerin nicht leistungsbegründende Umstände, die erst mehr als fünf Jahre nach deren Kenntnis geltend gemacht wurden. Das bundesgerichtliche Urteil vom 18. Februar 2008 (9C_582/2007), welches sich mit der Frage der Rechtzeitigkeit einer Anmeldung auseinandersetzt, ist somit nicht einschlägig (erst am 21.7.2006 geltend gemachter Anspruch auf Nachzahlung einer Kinderrente für ein am 5.3.1989 geborenes Kind).
BGE 121 V 195 betrifft, wie bereits dargelegt wurde (vgl. E. 2e), die Frage des für die Verwirkung massgeblichen Zeitpunktes bei zunächst nicht behandelten Leistungsgesuchen, wenn dieser Fehler im Rahmen eines späteren Gesuchsverfahrens entdeckt wird. Die von der Beschwerdeführerin eingereichte (erstmalige) Anmeldung zur Gewährung von Leistungen der Invalidenversicherung führte indes zur Prüfung der Leistungsansprüche, noch bevor seit dem potenziellen Rentenbeginn fünf Jahre verstrichen sind (vgl. E. 3c/aa hievor). Da das Abklärungsverfahren nach wie vor andauert, hatte sich die Versicherte auch nicht erneut zum Leistungsbezug anzumelden, so dass auch diese Rechtsprechung den Standpunkt der IV-Stelle nicht zu stützen vermag.
f) Zusammenfassend ist festzuhalten, dass der Anspruch der Beschwerdeführerin auf eine Invalidenrente für den Zeitraum vom 1. August 1999 (potentieller Rentenbeginn) bis 30. Juli 2001 (Beginn der Umschulung) sowie ein allfälliger Taggeldanspruch (vgl. E. 4e hernach) nicht verwirkt sind.