Marcus Eriksson blev matchhjälte med sitt avgörande 3-2-mål efter 52 minuter.
Erik Borg, Marcus Eriksson och Christopher Fish blev målskyttarna för Vita Hästen, medan David Levin och Gustav Willman Borvik gjorde Kristianstads mål.
Vita Hästen ligger på tionde plats i tabellen efter matchen, medan Kristianstad är på 13:e plats.
Fredag 19 februari möter Kristianstad Västervik borta 18.00 och Vita Hästen möter Timrå hemma 19.00.
