Wanneer een woning uitsluitend wordt verwarmd met een warmtepomp, dan wordt de warmte meestal uit de grond gehaald. Vanaf een meter onder het maaiveld, blijven de temperaturen vrij constant rond de 10°. Hoe dieper, hoe warmer, hoe beter. Als men tot een km onder het maaiveld zou boren om gebruik te maken van de warme ondergrond, zou dit resulteren in een maximaal rendement voor de warmtepomp. De hiermee gepaard gaande kosten wegen echter niet op tegen het  meerrendement. Bovendien boren we dan doorheen de (kwetsbare) grondwatertafel, wat op ecologisch vlak ook risico's inhoudt.

In de voorafgaande studiefase wordt bekeken of de warmtewisselaar volstaat om te voldoen aan de verwarmingseisen van de woning. Hoe groter de warmtewisselaar, hoe minder de temperatuur zal dalen tijdens het stookseizoen, hoe beter het rendement van de warmtepomp.

Water pompen uit de ondergrond
Als warmtebron kan water rechtstreeks uit de grond worden gepompt. Dat water wordt na gebruik op hetzelfde niveau opnieuw in de grond  gepompt. Dit vergt de nodige expertise vermits water terugpompen moeilijker is dan water oppompen. Dit systeem kan niet overal worden toegepast, omdat niet overal voldoende water van goede kwaliteit voorhanden is in de ondergrond. Het rendement van dit systeem zal gedeeltijke dalen door het elektriciteitsverbruik, dat nodig is om het water op te pompen. Daarentegen blijft de temperatuur van het grondwater constant, en hoe dieper men gaat hoe hoger de temperatuur. Deze techniek behoeft geen groot grondoppervlak.
Voor boringen beneden de 50 meter is een vergunning vereist. Let ook op voor woningen die in waterwingebieden gelegen zijn. Vraag op de lokale milieudienst of er extra voorwaarden van toepassing zijn. 

Verticale warmtewisselaar
Bij deze techniek worden buizen verticaal in de grond geboord. Dit gesloten buizencircuit bevat water en is verbonden met een collector. Het water zorgt voor de aanvoer van de warmte in de warmtepomp. Het afgekoelde water wordt opnieuw in de grond gepompt om daar terug te worden opgewarmd. Dit systeem is ook bruikbaar voor woningen met een kleinere tuin.

Horizontale warmtewisselaar
Bij een horizontale warmtewisselaar wordt een buizenstel onder de grond aangebracht op een diepte van ongeveer 1,2 meter, omdat vanaf deze diepte de temperatuur nagenoeg constant blijft . Alle lussen worden verzameld in een collector van waaruit één buis vertrekt naar de warmtepomp. Het water in het gesloten systeem ontneemt warmte van de grondtemperatuur. Om bevriezing te vermijden is bij het water glycol gevoegd (te vergelijken met koelvloeistof in de wagen).
Er zijn ook warmtepompen die de warmte halen uit de buitenlucht of uit ventilatielucht. Deze systemen worden doorgaans meestal enkel toegepast bij de verwarming van sanitair water.