Ölsburg wird urkundlich erstmals im Jahr 1003 erwähnt und ist somit eine der ältesten Siedlungen im Fuhsetal.

Als Verwaltungsmittelpunkt der fränkischen Kaiser diente eine Burg an den Fuhseniederungen.
Von 1643 bis 1941 war Ölsburg eine Braunschweiger Enklave innerhalb des Landkreises Peine.

  Mit der Gründung der Ilseder Hütte 1858 begannen die industriellen Umwälzungen der Region.

1875 entstand die Hüttenarbeitersiedlung Neu Ölsburg. Sie war eine unabhängige Gemeinde mit eigener Verwaltung.

1964 gab es dann den Zusammenschluss zwischen Ölsburg und Neu Ölsburg.

Am 1. Februar 1971 wurde Ölsburg und 5 weitere umliegende Ortschaften zur
Gemeinde Ilsede zusammengelegt.

1995 schloss die Ilseder Hütte, die Ölsburg und Umgebung bis dahin sehr geprägt hatte.

Im Jahr 2003 feierte die Ortschaft ihr 1000-jähriges Bestehen.

Ölsburg liegt im Städtedreieck Hannover - Braunschweig - Salzgitter (Niedersachsen)
und hat ca. 2800 Einwohner.