Erwägungen
I.
1. C ist Vermieter, A und B sind Mieter dessen 7-Zimmer-Einfamilienhauses. Mit Schreiben vom 10. Februar 2011 wurden die Mieter wegen der ausstehenden Mietzinse von August bis Dezember 2010 sowie Januar 2011 im Betrag von insgesamt Fr. 10'200.00 (6 Monate à Fr. 1'700) gemahnt, und es wurde ihnen unter Ansetzung einer Zahlungsfrist von 30 Tagen die Kündigung angedroht. Am 24. März 2011 kündigte der Vermieter den Mietvertrag dann wegen Zahlungsverzugs formgerecht auf den 30. April 2011, worauf die Mieter die Kündigung mit Schreiben vom 14. April 2011 bei der Schlichtungsstelle für Miet- und Pachtverhältnisse anfochten.
2. Mit Eingabe vom 18. April 2011 klagte der Vermieter seinerseits beim Kreisgericht auf Ausweisung im Verfahren nach Art. 257 ZPO, welchem Begehren sich die Mieter gemäss Stellungnahme vom 23. April 2011 widersetzten. Am 27. April 2010 fällte die zuständige Einzelrichterin folgenden Entscheid:
"1. Den Gesuchsgegnern wird befohlen, das Einfamilienhaus bis zum 20. Mai 2011 zu räumen und zu verlassen.
2. a) Der Gesuchsteller wird ermächtigt, das bezeichnete Objekt nach dem 20. Mai 2011 auf Kosten der Gesuchsgegner zu räumen oder durch einen Dritten räumen zu lassen. Die Gemeinde wird beauftragt, auf schriftliches Ersuchen hin, nach Hinterlegung eines von ihr festgesetzten Kostenvorschusses, die Räumung durchzuführen oder die Durchführung durch Dritte zu veranlassen, soweit der Gesuchsteller nicht im Rahmen der ihm eingeräumten Ermächtigung selber handelt. Die Gemeinde ist ermächtigt, zum Zweck der Vollstreckung der gerichtlichen Ausweisung die verhältnismässigen Zwangsmittel anzuwenden. Sie kann die Unterstützung der Kantonspolizei in Anspruch nehmen oder diese mit der Sicherung einer vom Gesuchsteller veranlassten Räumung beauftragen.
b) Die Ermächtigung des Gesuchstellers, die Räumung selber durchzuführen, wird bis zum 20. August 2011 erteilt. Während dieses Zeitraums kann auch die Durchführung der Räumung durch die Gemeinde oder deren Mitwirkung verlangt werden.
3. Die Entscheidgebühr von Fr. 800.00 wird unter Verrechnung mit dem Kostenvorschuss von gleicher Höhe beim Gesuchsteller erhoben, unter Einräumung des Rückgriffsrechts auf die solidarisch haftenden Gesuchsgegner für den ganzen Betrag.
4. Die Gesuchsgegner haben den Gesuchsteller in solidarischer Haftbarkeit mit Fr. 100.00 zu entschädigen."
3. Mit Eingabe vom 29. April 2011 (Poststempel: 02.05.2011) erhoben die Mieter gegen den Entscheid vom 27. April 2011 (versandt am 28.04.2011) Beschwerde beim Kantonsgericht mit dem Antrag, die Vollstreckung sei bis mindestens Ende Juli oder Ende August 2011 aufzuschieben. Mit Verfügung vom 4. Mai 2011 wurde der Beschwerde antragsgemäss aufschiebende Wirkung erteilt.
Auf das Einholen einer Stellungnahme von der Gegenpartei wurde nach Beizug der erstinstanzlichen Akten verzichtet, aufgrund welcher die Beschwerde, wie sich im Folgenden ergibt, als offensichtlich unbegründet erscheint (Art. 322 Abs. 1 ZPO).
II.
1. Die von Amtes wegen durchzuführende Prüfung der Prozessvoraussetzungen (Art. 59 und 60 ZPO/CH) ergibt, dass diese erfüllt sind (vgl. 319 lit. a und 321 Abs. 1 ZPO/CH). Auf die Beschwerde ist einzutreten. Zuständig ist der Einzelrichter im Obligationenrecht (Art. 15 Abs. 1 lit. b EGzZPO; Art. 14 Abs. 2 Ziff. 4 GO).
2. Die Vorinstanz ist (implizit) davon ausgegangen, der Umstand, dass die Kündigung von den Mietern bei der Schlichtungsstelle angefochten wurde (act. 7 der Schlichtungsakten), stehe einer Anhandnahme der - im Summarverfahren für den Rechtsschutz in klaren Fällen (Art. 248 lit. b ZPO) angestrengten - Ausweisungsklage des Vermieters grundsätzlich nicht entgegen. Dem ist beizupflichten; insbesondere begründet die Anfechtungsklage des Mieters keine Litispendenz (Art. 59 Abs. 2 lit. d ZPO) betreffend den vor Kreisgericht eingeklagten Rückgabeanspruch des Vermieters nach Art. 267 Abs. 1 OR.
Auf die Ausweisungsklage eingetreten werden kann freilich nur bei unbestrittenem oder sofort beweisbarem Sachverhalt sowie klarer Rechtslage (Art. 257 Abs. 1 und 3 ZPO). Ob diese Voraussetzungen gegeben waren und sind, ist im Folgenden zu prüfen.
III.
1. Nach Art. 257d OR kann der Vermieter dem Mieter von Wohnräumen, der sich im Zahlungsrückstand befindet, unter Ansetzung einer Frist von mindestens dreissig Tagen die Kündigung androhen und, wenn auch innert dieser Frist nicht bezahlt wird, mit einer weiteren Frist von mindestens dreissig Tagen auf das Ende eines Monats kündigen.
a) Vorliegend steht unbestritten fest, dass sich die Mieter mit der Bezahlung der Mietzinse für die Monate August 2010 bis Januar 2011 (insgesamt mit Fr. 10'200.00) im Rückstand befanden, als sie vorschriftsgemäss (Art. 266n OR) mit separaten Schreiben vom 10. Februar 2011 (abgeholt am 11.02.2011; Suchergebnisse Track&Trace [kläg.act. 10 und act. BE5]) gemahnt und ihnen eine Frist von dreissig Tagen zur Zahlung der Ausstände angesetzt sowie die Kündigung angedroht wurde.
b) Festzustellen ist sodann, dass der genannte Rückstand auch innert der vom 12. Februar bis 14. März 2011 dauernden (Art. 78 Abs. 1 OR), dreissigtägigen Zahlungsfrist nicht vollständig beglichen wurde. Die Mieter irren, wenn sie meinen, dass die Kündigung nichtig sei, bloss weil sie in der vom Vermieter eingeleiteten Betreibung über Fr. 8'500.00 den Rechtsvorschlag zurückgezogen haben. Dazu kommt, dass sie nicht nur die verfallenen Zinse aus dem Jahr 2010 nicht, sondern nicht einmal den Mietzins für den Monat Januar 2011 innert Frist bezahlt haben: nachdem sie am 7. Februar 2011 lediglich eine Anzahlung von Fr. 800.00 geleistet hatten, erfolgte die Zahlung des Restbetrags von Fr. 900.00 für den Januarmietzins erst am 21. März 2011 (vgl. Postempfangsscheine; act. 7 und 8 der Schlichtungsakten) und damit verspätet.
c) Der Vermieter war nach Ablauf der Zahlungsfrist daher berechtigt, den Mietvertrag unter Verwendung der vorgeschriebenen amtlichen Formulare (Art. 266l Abs. 2 OR) am 24. März 2011 vorzeitig auf das Ende des nächstfolgenden Monats, 30. April 2011, zu kündigen (kläg.act. 5 und 6).
Die ausserordentliche Kündigung ist nach dem Gesagten gültig.
2. Anfechtungsgründe gemäss Art. 271 und 271a OR werden nicht geltend gemacht und sind nicht ersichtlich. Eine Mieterstreckung bei Kündigungen wegen Zahlungsrückstandes wie hier ist selbst in Härtefällen gesetzlich ausgeschlossen (Art. 272a Abs. 1 lit. a OR). Der Umstand, dass es, wie die Beschwerdeführer geltend machen, nicht einfach ist, mit vier Kindern eine andere Unterkunft zu finden, kann deshalb nicht berücksichtigt werden.
3. Sind die Kündigungen aber gültig und nicht anfechtbar, und ist eine Mieterstreckung ausgeschlossen, so ist festzustellen, dass das Mietverhältnis per 30. April 2011 beendet wurde. Die Beklagten haben daher kein Recht mehr, im Mietobjekt zu verbleiben; sie müssen es räumen und zurückzugeben (Art. 267 Abs. 1 OR).
Die Sach- und Rechtslage ist klar; die Vorderrichterin hat die Ausweisungsklage zu Recht gutgeheissen. Die gegen ihren Entscheid eingereichte Beschwerde ist als offensichtlich unbegründet abzuweisen, womit auch die Gewährung der aufschiebenden Wirkung gemäss Verfügung vom 4. Mai 2011 dahinfällt.
4. Sollten die Mieter und ihre Familie wegen der Ausweisung in Bedrängnis geraten, können sie sich - darauf hat zutreffend schon die Vorderrichterin hingewiesen - an die hiefür zuständige Gemeindebehörde wenden (vgl. Art. 8 lit. b, 9 und 10 Abs. 1 i.V.m. Art. 3 des Sozialhilfegesetzes; sGS 381.1). Einen gegenüber dem Vermieter (als ehemaligem Vertragspartner) durchsetzbaren Anspruch auf Verbleib in der derzeitigen Unterkunft haben sie jedoch nicht.