Het kasteel Saffelberg, ook gekend als het kasteel van Oplombeek, dateert minstens van de 18de eeuw. Het wordt op de Ferrariskaart weergegeven als een halfopen hoevecomplex met formele tuinen en een boomgaard. Er zijn geen aanwijzingen voor een middeleeuwse oorsprong.
In de 19de eeuw evolueerde het eigendom, toen onder meer in handen van de familie Wouters, tot een klassiek kasteeldomein met een U-vormig gebouwencomplex rond een erekoer, een ommuurde moestuin en een landschappelijke lusttuin.
Vanaf 1906 kwam Saffelberg in bezit van de familie Van Oldeneel tot Oldenzeel. Tussen 1909 en 1912 werd het bestaande landhuis vervangen door het huidige kasteel, ontworpen door Gustave Van den Bemden in neorenaissancestijl met Franse invloeden. Gelijktijdig werd het park heraangelegd met formele tuinen en een uitgebreid landschapspark.
Sinds 2007 is het domein in handen van een investeringsmaatschappij en kreeg het na een grondige restauratie een nieuwe bestemming als representatief bedrijfscentrum, met behoud van zijn historisch en architecturaal karakter.
Het kasteel en domein zijn vaak zichtbaar vanaf wandelwegen en fietsrouteknopen en voegen een pittoresk architecturaal element toe aan een dagtrip in de regio.