Aus den Erwägungen:
Das in einem Scheidungsurteil zugesprochene Benützungsrecht an der Wohnung der Familie kann in veränderter Lage nachträglich vom Richter eingeschränkt oder aufgehoben werden (Art. 121 Abs. 3 ZGB). Die Lehre weist darauf hin, dass daneben auch die gewöhnlichen Beendigungsgründe geltend gemacht werden können. Das Wohnrecht endet also namentlich dann, wenn die berechtigte Person stirbt, das Recht nicht mehr persönlich ausüben kann oder darauf verzichtet (Deillon-Schegg, Die gerichtliche Zusprechung eines Wohnrechts an der Wohnung der Familie, recht 2000, 14 ff.; 25 f.; BaslerKomm/Gloor, Art. 121 ZGB N 16; Sutter/Freiburghaus, Kommentar zum neuen Scheidungsrecht, Art. 121 N 70). Das Wohnrecht an der Familienwohnung stellt eine Personaldienstbarkeit im Sinne von Art. 776 ZGB dar (FamKomm Scheidung/Büchler, Art. 121 ZGB, N 19; BaslerKomm/Gloor, Art. 121 ZGB, N 14; Hausheer, Der Scheidungsunterhalt und die Familienwohnung, in: derselbe [Hrsg.], Vom alten zum neuen Scheidungsrecht, Rz. 3.95). Dort sind die Aufhebungsgründe nicht eigens geregelt. Verwiesen wird auf die Nutzniessung und bei dieser ist ausdrücklich vom Verzicht die Rede (Art. 748 Abs. 2 ZGB). Gemeint ist damit nicht nur eine vertragliche Abrede, sondern auch ein vom Berechtigten allein erklärter Verzicht (ZürcherKomm/Baumann, Art. 748-749 ZGB, N 25; Riemer, Die beschränkten dinglichen Rechte, 2. Aufl., 62). Der Verzichtswille muss ausdrücklich und vorbehaltlos erklärt werden (BGer, ZBGR 1999, Nr. 23). Der Eigentümer braucht aber nicht zuzustimmen (Steinauer, Les droits réels II, Rz. 2261; Mooser, La fin du droit d'habitation, ZBGR 1996, 345 ff., 347).
Die Beklagte vertritt die Meinung, sie habe ihren Verzichtswillen im Kündigungsschreiben vom 26. Mai 2006 klar ausgedrückt. Der Kläger stellt sich hingegen auf den Standpunkt, dass ein Wohnrecht nicht wie ein Mietverhältnis gekündigt werden könne. Es wäre der geschiedenen Ehefrau auch nach dem Auszug jederzeit möglich gewesen, sich wieder auf ihr Recht zur Benützung der Wohnung zu berufen. Sie habe den Verzicht darauf erst in der Schlichtungsverhandlung vom 8. September 2008 gültig erklärt. Die Möglichkeit des Verzichts ist als Befugnis einer Partei aufzufassen, ein Rechtsverhältnis aufzulösen. Es handelt sich um ein Gestaltungsrecht, das durch einseitige, aber empfangsbedürftige Willenserklärung ausgeübt wird. Die Mitteilung kann in beliebiger Form erfolgen. Sie muss jedoch in eindeutiger Weise zum Ausdruck bringen, dass das Verhältnis beendet werden soll. Eine solche Erklärung ist, wenn sie einmal abgegeben wurde, unwiderruflich (Gauch/Schluep, Schweizerisches Obligationenrecht, Allgemeiner Teil I, Rz. 66 ff.; Schwenzer, Schweizerisches Obligationenrecht, Allgemeiner Teil, 5. Aufl., Rz. 3.06; BaslerKomm/Wiegand, Art. 107 OR N 14). Die Auslegung knüpft nicht einfach ohne jede Rücksicht auf die konkreten Umstände an den formellen Wortlaut an. Die Willenserklärung ist vielmehr nach dem Vertrauensprinzip so zu interpretieren, wie sie der Empfänger in guten Treuen verstehen durfte und musste (BGE 130 III 424; 129 III 122; 128 III 422; Gauch/Schluep, Rz. 207 ff.). Findet sich darin ein Ausdruck, der unterschiedlich verstanden werden kann, so geht der "landläufige" Gebrauch einer speziellen Bedeutung vor (BGE 44 II 102; Hausheer/Jaun, Die Einleitungsartikel des ZGB, Art. 2 N 31; BernerKomm/Merz, Art. 2 ZGB N 151). Nach streng rechtlicher Auffassung lässt sich das Wohnrecht zwar nicht kündigen (ZürcherKomm/Baumann, Art. 776 ZGB, N 20), weil es nicht von beiden Parteien, sondern nur vom Berechtigten aufgelöst werden kann. Im allgemeinen Sprachgebrauch wird der Begriff der Kündigung aber stets im Sinne von Auflösung oder Aufhebung verwendet. Das Wort "kündigen" kommt von "aufkündigen", und das heisst, die Beendigung eines Vertrags kundtun (vgl. zu diesem Stichwort Duden – Das Herkunftswörterbuch). Die juristisch nicht ganz korrekte Ausdruckweise, die Wohnung werde gekündigt, ändert folglich nichts daran, dass der Wille, das Wohnrecht definitiv aufzugeben, damit unmissverständlich geäussert wurde.
Das nachträgliche Verhalten kann ein Indiz dafür sein, wie die Erklärung verstanden wurde. Hier wirkte der Kläger in der Funktion eines "Vermieters" an einer Wohnungsabnahme mit und eine solche machte nur Sinn, wenn es beim endgültigen Auszug der Beklagten darum ging, die von ihr benutzten Räume zu prüfen und sie für allfällige Mängel haftbar zu machen. Zudem übernahm der Kläger damals die Hausschlüssel und zog zu einem nicht genau bekannten Zeitpunkt wieder in das Haus ein. Alles deutet darauf hin, dass er die Kündigung tatsächlich so verstand, wie sie gemeint war, und davon ausging, die geschiedene Ehefrau verzichte ab September 2006 unwiderruflich auf das Wohnrecht an der Familienwohnung. Die Beklagte unterzeichnete zwei Jahre später eine Vereinbarung, in der sie per sofort auf das Wohnrecht verzichtete. Daraus kann nach den gesamten Umständen aber nicht geschlossen werden, sie habe selbst angenommen, dass sie bis dahin nutzungsberechtigt geblieben sei. Sie hielt es offensichtlich für unproblematisch, den schon früher erklärten und längst vollzogenen Verzicht nochmals zu bekräftigen.
Der Kläger wendet schliesslich noch ein, er habe sich darauf verlassen dürfen, dass die Entschädigung für das Wohnrecht bis Herbst 2012 auf seine Unterhaltspflicht angerechnet werde. Gelegentlich wird zwischen der "begünstigenden" und der "gekauften" Nutzniessung unterschieden und bezweifelt, ob ein einseitiger Verzicht auch im Falle der Entgeltlichkeit zu rechtfertigen sei (ZürcherKomm/Baumann, Art. 748-749 ZGB, N 25). Das nach Art. 121 Abs. 3 ZGB eingeräumte Wohnrecht beruht aber auf einem familien- und sozialpolitischen Motiv: Es will vor allem das Grundbedürfnis der Kinder erfüllen, bei der Scheidung der Eltern im gewohnten Umfeld bleiben zu können (FamKomm Scheidung/Büchler, Art. 121 ZGB, N 2) und das gilt auch in diesem Fall, in dem vier noch schulpflichtige Kinder zu betreuen waren. Das finanzielle Interesse des Wohnungseigentümers hat verglichen damit untergeordnete Bedeutung. Die ihm auszurichtende Entschädigung muss nicht voll, sondern nur angemessen sein. Sie soll mithin vor allem die Kosten ersetzen und nicht einen Gewinn ermöglichen, wie er sich bei einer Vermietung an Dritte erzielen liesse (FamKomm Scheidung/Büchler, Art. 121 ZGB, N 24; BaslerKomm/Gloor, Art. 121 ZGB, N 17). Die Folgen, die sich aus einer vorzeitigen Beendigung des Wohnrechts ergeben, sind deshalb dem Eigentümer durchaus zumutbar.
Ein einseitiger Verzicht der Berechtigten auf das Wohnrecht war somit zulässig. Der Verzichtswille wurde im Kündigungsschreiben klar ausgedrückt. Die Erklärung konnte vom Kläger nur in diesem Sinne verstanden werden und wurde tatsächlich auch so verstanden, wie sein späteres Verhalten zeigt. Das Wohnrecht endete somit Ende August 2006. Danach war keine Entschädigung mehr geschuldet.