Aus den Erwägungen:
3. In formeller Hinsicht rügt der Beschwerdeführer die Verletzung des Anspruchs auf das rechtliche Gehör. Er führt aus, die Parteikostennote sei am Tag, an welchem ihm mitgeteilt worden sei, dass nun endlich eine Bestätigung der Bank für die Übernahme des Hauses vorliege, per Mail eingereicht worden. Dabei sei ausdrücklich darauf verwiesen worden, dass, wenn die Kostennote als überrissen bezeichnet werden sollte, im Rahmen des rechtlichen Gehörs eine detaillierte Leistungsübersicht nachgereicht werden könne. Am gleichen Tag sei dann das verlangte Honorar ohne jegliche Begründung und ohne Gewährung des rechtlichen Gehörs um die Hälfte gekürzt worden. Aufgrund des Anspruchs auf rechtliches Gehör (Art. 53 ZPO) sei den Anwälten Gelegenheit zu geben, ihre Kostennote einzureichen. Werde massgebend von der Kostennote abgewichen, sei dem unentgeltlichen Rechtsbeistand das rechtliche Gehör zu gewähren bzw. jener müsse zuvor angehört werden. Der Anspruch auf das rechtliche Gehör verlange zudem, den Kostenentscheid zu begründen, um die allfällige Abweichung nachvollziehen zu können.
a) In der Regel entscheidet das Gericht im Endentscheid über die Prozesskosten (Art. 104 Abs. 1 ZPO). Diese bestehen aus den Gerichtskosten und den Parteientschädigungen (Art. 95 Abs. 1 ZPO) gemäss den Tarifen des kantonalen Rechts (Art. 96 ZPO, Art. 105 Abs. 2 ZPO). Dazu gehört als Bestandteil des Kostenentscheides auch die allfällige Festlegung der Entschädigungen aus unentgeltlicher Rechtspflege (vgl. BSK ZPO – Rüegg, Art. 122, N 8). Das Einreichen von Kostennoten ist fakultativ; es besteht keine Pflicht zur Einreichung einer solchen (Hirt, Die Regelung der Kosten nach st. gallischem Verwaltungsrechtspflegegesetz, S. 208, Diss. 2004; Urwyler, DIKE-Komm-ZPO, Art. 105, N 6; A. Staehelin/D. Staehelin/ Grolimund, Zivilprozessrecht unter Einbezug des Anwaltsrechts und des internationalen Zivilprozessrechts, 2. A., § 16, N 34; CPC-Tappy, art. 105, N 19; Jenny, in: Sutter-Somm/Hasenböhler/Leuenberger, Kommentar zur Schweizerischen Zivilprozessordnung, Art. 105 ZPO, N 7). Es kommt denn auch häufig vor, dass keine Kostennoten eingereicht werden; diesfalls erfolgt die Festsetzung der Entschädigung gestützt auf den entsprechenden Tarif (HonO) nach Ermessen (Fischer, Stämpflis Handkommentar, ZPO, Art. 105, N 5).
Der Beschwerdeführer macht geltend, dass aufgrund des Anspruches auf rechtliches Gehör den Anwälten Gelegenheit zu geben sei, ihre Kostennoten einzureichen, insbesondere beim öffentlich-rechtlichen Auftragsverhältnis der unentgeltlichen Rechtsverbeiständung. Die ZPO kennt nun keine Bestimmung, wonach die Parteien zu einer Einreichung der Kostennote aufgefordert werden müssen. Mit Blick auf eine hieraus allenfalls resultierende Verletzung des rechtlichen Gehörs ist auf die entsprechende bundesgerichtliche Rechtsprechung hinzuweisen. Demnach kann insbesondere nur dann von einer Verletzung des rechtlichen Gehörs ausgegangen werden, wenn der erfolgte Entscheid einen unvorhergesehenen Verfahrensausgang darstellt. Andernfalls wird es als ausreichend betrachtet, dass die Parteien Gelegenheit gehabt haben, von sich aus eine Kostennote einzureichen (Fischer, Stämpflis Handkommentar, ZPO, Art. 105, N 6; BGer 5P.206/2005, E. 2.1.3; BSK ZPO – Rüegg, Art. 105, N 2). Es entspricht bzw. entsprach früher auch der st. gallischen Praxis, dass es ins Ermessen des Gerichtes gestellt ist, ob es diesen ausdrücklich Gelegenheit zur Einreichung einer Kostennote einräumen will. Bisweilen stellen Anwälte den Antrag, ihnen sei vor Abschluss des Verfahrens Gelegenheit zur Einreichung einer Kostennote zu geben. Ein solcher Antrag dürfte wohl zu beachten sein, wurde aber vorliegend nicht gestellt. Weiter war auch aufgrund des Verfahrensablaufes im zur Diskussion stehenden Verfahren mit dessen Abschluss zu rechnen. Damit ist im Ergebnis vorliegend nicht zu beanstanden, dass die Vorinstanz umgehend entschieden hat, ohne die Parteien zuvor noch zur Einreichung von Kostennoten aufzufordern.
b) Als Nächstes stellt sich die Frage, ob der Beschwerdeführer noch rechtzeitig die Kostennote eingereicht hat und die Vorinstanz diese noch vor dem Entscheid hätte beachten müssen. Bis wann eine Kostennote spätestens einzureichen ist, wird in der ZPO nicht geregelt. Dennoch ist diese Regelung nicht Sache der Kantone. Grundsätzlich muss sie spätestens vor der Urteilsberatung (Art. 105 Abs. 2 ZPO; Jenny, in: Sutter-Somm/Hasenböhler/Leuenberger, Kommentar zur Schweizerischen Zivilprozessordnung, Art. 105, N 7; CPC – Tappy, art. 105, N 19) bzw. in der Hauptverhandlung (Urwyler, DIKE-Komm-ZPO, Art. 105, N 8; A. Staehelin/D. Staehelin/Grolimund, Zivilprozessrecht unter Einbezug des Anwaltsrechts und des internationalen Zivilprozessrechts, 2. A., § 16, N 34) bzw. bis zum Schluss der Parteiverhandlung (BernerKomm/Sterchi, Art. 105 ZPO, N 8) eingereicht werden. Wird vor dem vorerwähnten Zeitpunkt keine Kostennote eingereicht, werden die Parteikosten nach Ermessen zugesprochen (Art. 6 HonO; Hirt, Die Regelung der Kosten nach st. gallischem Verwaltungsrechtspflegegesetz, Diss. 2004, S. 248).
Im Rahmen des vorinstanzlichen Verfahrens wurde fast als letzter Schritt am 5. April 2013 eine Konventionsverhandlung durchgeführt und den Parteien darauf von Gerichtsseite aus ein Vereinbarungsentwurf zur Durchsicht zugestellt. Mit Eingabe vom 8. Mai 2013 wurde die beidseitig unterzeichnete Vereinbarung (vom Ehemann am 2. und von der Ehefrau am 6. Mai 2013 unterzeichnet) eingereicht. Den Parteien musste daher klar sein, dass damit vorbehältlich gewisser Schlussarbeiten das Verfahren abgeschlossen ist. Es sind denn auch in der Folge keine weiteren, als die üblichen Schlussarbeiten auf Seiten der Anwälte notwendig geworden. Grundsätzlich wäre daher zu erwarten gewesen, dass die Parteianwälte ihre Kostennoten innert nützlicher Frist (es kann offen bleiben, welche Frist vorliegend noch als angemessen betrachtet werden könnte), jedenfalls aber nicht erst am 3. Juni 2013, also fast einen Monat später dem Gericht einreichen würden. Dies umso mehr, als beide Parteien (und auch der Familienrichter) auf einen Abschluss des Verfahrens gedrängt haben und die im Hinblick auf den Verfahrensabschluss grundsätzlich letzten Schritte der Parteien gemacht wurden. Auch damit ist festzuhalten, dass die Parteien die Kostennoten zu spät eingereicht haben, weshalb der vorinstanzliche Richter die entsprechende Entschädigung gestützt auf die HonO zu Recht ermessensweise festgelegt hat.
Damit sind die vom Beschwerdeführer weiter erhobenen Einwendungen im Zusammenhang mit der Frage der Auseinandersetzung mit einer eingereichten Kostennote grundsätzlich gegenstandslos geworden. Der Vollständigkeit halber sei allerdings erwähnt, dass im Falle einer rechtzeitigen Einreichung der Kostennote einerseits der Anwalt verantwortlich ist, seine Angaben zu substantiieren (er kann nicht erwarten, dass das Gericht noch speziell detaillierte Aufstellungen verlangt; solche sind vielmehr ohne Weiteres einzureichen, vor allem dann, wenn besondere Aufwendungen geltend gemacht und/oder von den vorgegebenen Pauschalen abgewichen wird; vgl. CPC-Tappy, art. 105, N 18; Urwyler, DIKE-Komm-ZPO, Art. 105, N 6). Anderseits hätte sich die Vorinstanz aber auch mit den Kostennoten auseinanderzusetzen und Abweichungen zu begründen (vgl. BSK ZPO – Rüegg, Art. 105, N 2; BGer 8C_54/2013, E. 4; BernerKomm/Sterchi, Art. 105 ZPO, N 9).
c) Weiter beanstandet der Beschwerdeführer die fehlende Begründung der Festlegung der Entschädigung aus unentgeltlicher Rechtspflege. Der Entscheid über die Höhe der Gerichtskosten und der Parteientschädigung muss in der Regel nicht begründet werden (Urwyler, DIKE-Komm-ZPO, Art. 105, N 11; BernerKomm/Sterchi, Art. 105 ZPO, N 9; BGer 8C_54/2013, E. 4.1; BGE 111 I a 1). Soweit die Vorinstanz bei der Bemessung die HonO und die erwähnten Richtlinien korrekt angewendet hat, "schadet" die fehlende Begründung von vornherein nicht. Zudem ist ergänzend darauf hinzuweisen, dass beide Parteien im Rahmen der Konvention ohne jede Einschränkung vereinbart haben, dass sie auf eine Begründung des Entscheids verzichten.
d) Zusammenfassend ist somit festzuhalten, dass keine Verletzung des Grundsatzes des rechtlichen Gehörs durch die Vorinstanz festzustellen ist.
4. Der Beschwerdeführer beanstandet weiter auch die durch die Vorinstanz vorgenommene Bemessung der Entschädigung. Somit ist als Nächstes diese Frage zu prüfen.
In diesem Zusammenhang ist vorerst festzuhalten, dass der vorinstanzliche Richter offenbar gestützt auf einen entsprechenden Antrag (unter anderem) des Ehemannes beiden Parteien die unentgeltliche Prozessführung gewährt hat, dabei aber den Aufwand für die anwaltliche Vertretung einstweilen auf 12 Anwaltsstunden beschränkt hat. Der Ehemann wurde damals noch von der bürointernen Vorgängerin des Beschwerdeführers vertreten. Der Beschwerdeführer selbst hat mit Eingabe vom 4. Februar 2013 unter anderem eine Erweiterung des vorerwähnten Kostendachs beantragt und zwar unter Hinweis darauf, dass das gewährte bereits überschritten sei, wobei der Aufwand für die Mandatsübernahme durch ihn vom Anwaltsbüro übernommen worden sei. Konkretisiert wurde dieser Antrag allerdings nicht, insbesondere auch nicht in dem Sinne, dass überhaupt von einem Kostendach abzusehen sei (es wurde übrigens auch nicht um Bewilligung des Anwaltswechsels ersucht). Es wurde auch nie beanstandet, dass dieses Gesuch nicht beurteilt wurde. Umgekehrt ist durchaus einzuräumen, dass von Seiten des Familienrichters dieser Antrag nie direkt behandelt worden ist. Indirekt wurde der Umstand (und übrigens auch der Anwaltswechsel) dahingehend berücksichtigt, dass schlussendlich bei der Honorierung über das zuerst gewährte Kostendach hinausgegangen worden ist.
Somit stellt sich abschliessend die Frage, ob die Bemessung des Honorars durch die Vorinstanz korrekt erfolgt ist. Vorab ist in diesem Zusammenhang nochmals darauf hinzuweisen, dass vorliegend von einem Fall auszugehen ist, in welchem das Gericht die Entschädigungsfestlegung nach Ermessen gestützt auf die HonO und auch die Richtlinien zur unentgeltlichen Rechtspflege im Zivilprozess und für die Privatklägerschaft im Strafprozess vom Mai 2011 vorzunehmen hat (vgl. E. 3.b). Aufgrund des vorerwähnten Umstandes, dass die Vorinstanz auf den Antrag betreffend Erweiterung des Kostendaches gar nicht eingegangen ist, sind die allgemeinen Grundsätze betreffend Bemessung des Honorars aus unentgeltlicher Rechtspflege anwendbar. Gemäss Ziffer II.1 der erwähnten Richtlinien ist die Pauschale Ausdruck des für bestimmte Fallgruppen als üblich betrachteten Aufwands. Innerhalb des Pauschalrahmens wird das Honorar insbesondere nach der Art und Schwierigkeit des Einzelfalles festgelegt. Das konkrete Ausmass der Bemühungen ist nicht allein massgebend für die Höhe des pauschalen Honorars. Der anerkannte Zeitaufwand richtet sich nach der Arbeitsweise eines Anwalts und einer Anwältin, die mit gründlichen Fachkenntnissen und längerer Erfahrung ein Mandat zielgerichtet führen und sich auf das zur Interessenwahrung Notwendige beschränken. Mindestzeiteinheiten für kurze Aktivitäten wie Terminabsprachen, Entgegennahme von Vorladungen usw. sind unbeachtlich. In Familiensachen wird das Pauschalhonorar insbesondere danach festgelegt, ob mehrere Fragen zu klären sind oder sich nur eine einzelne Frage stellt. Die maximale Pauschale ist dabei auf die Verfahren beschränkt, in denen mehrere schwierige Punkte strittig sind. Nach Zeitaufwand kann gegebenenfalls abgerechnet werden, wenn die Zuteilung der elterlichen Sorge für Kinder lange umstritten blieb (Ziffer II.2 der erwähnten Richtlinien). In diesem Zusammenhang ist vorab darauf hinzuweisen, dass der vorinstanzliche Familienrichter im Rahmen der Festlegung des ersten Kostendaches immerhin unwidersprochen darauf hingewiesen hat, dass keine komplizierten Verhältnisse gegeben sind. Betrachtet man den Umfang der Akten und auch deren Inhalt (so mussten die Rechtsanwälte keine grösseren Eingaben verfassen), so ist in der Tat davon auszugehen, dass jedenfalls kein besonders aufwendiger Fall, mithin ein "durchschnittlicher" Fall zur Diskussion steht. Ergänzend wäre zu beachten, dass ohnehin grundsätzlich nur Aufwendungen nach Stellung des Gesuchs um unentgeltliche Rechtspflege Berücksichtigung finden könnten bzw. jene anwaltlichen Bemühungen, welche im Hinblick auf den Verfahrensschritt erbracht wurden, anlässlich welchem auch das Gesuch um unentgeltliche Rechtspflege gestellt wurde (vgl. Ziffer I.5.3 der erwähnten Richtlinien; BGE 122 I 322, E. 3.b; BGE 122 I 203, E. 2.c; Köchli, Handkommentar, Schweizerische Zivilprozessordnung, Art. 119 ZPO, N 10; Emmel, in: Sutter-Somm/Hasenböhler/Leuenberger, Kommentar zur Schweizerischen Zivilprozessordnung, Art. 119 ZPO, N 3 m.w.H.). Zudem ist darauf hinzuweisen, dass die bürointerne Vorgängerin des Beschwerdeführers bereits ins dem Scheidungsverfahren vorangegangene Eheschutzverfahren einbezogen war und damit sich der entsprechende Instruktionsaufwand offensichtlich verringert hat. Im Übrigen ist auch nicht ersichtlich, weshalb der Aufwand auf Seiten des Ehemannes grösser gewesen sein soll, als jener auf Seiten der Gegenpartei. Bei einer Pauschalbemessung spielt diese Frage ohnehin eine sehr untergeordnete Rolle. Zudem hätten diese Umstände vor Vorinstanz dargetan werden müssen und können nun nicht als neue Tatsachen im Beschwerdeverfahren eingebracht werden. Das reduzierte mittlere Pauschalhonorar beträgt Fr. 3'480.00 (Art. 20 Abs. 1 lit. a HonO i.V.m. Art. 31 AnwG). Zusammen mit den pauschalen Barauslagen von 4% auf dem ungekürzten Honorar (Fr. 174.00, Art. 28bis Abs. 1 HonO) und dem Betrag der Mehrwertsteuer auf der Zwischensumme ergibt dies eine Gesamtentschädigung von Fr. 3'946.30. Ein Unterschreiten dieses Betrages erscheint allerdings auch nicht angebracht. Der vorinstanzliche Entscheid ist daher in Bezug auf die Festlegung der Entschädigung des Beschwerdeführers aufzuheben und entsprechend anzupassen.