Помоћу археолошких извора, историја Олендорфа може се пратити даље у прошлост од првог забележеног помена: 1955. године пронађени су остаци керамичких посуда североисточно од Олендорфа, што указује да је тамо већ постојало мало насеље у 4/5. веку.
Први детаљан опис Олендорфа налази се у земљишном регистру округа Шладенов из 1567. године. У селу је живело седам сељака који су поседовали значајна имања и 24 закупца који су имали на располагању мање парцеле за обраду.
У 19. веку, политичка припадност јужног дела онога што је данас град Цалцгитер неколико пута се мењала: у почетку је Олендорф био део Хилдесхајма, затим Пруске, припадало је Краљевини Вестфалија, коју је на почетку века основао царица Наполеон Бонапарт, потом је било под хановерском влашћу до 1866. године, и на крају је поново постало део Пруске.
За становнике, ове промене у политичкој припадности вероватно нису имале значајнију улогу у њиховом свакодневном животу. Насупрот томе, освећење нове цркве, изграђене 1870–71, морало је бити веома значајан догађај. Било је неколико година дискусија о томе како ће се трошкови нове зграде – коју је пројектовао угледни архитекта Конрад Вилхелм Хазе – поделити међу парохијанима.
За разлику од других места у оквиру подручја које данас обухвата град Цалцгитер, Олендорф није доживео никакве драстичне промене након оснивања Рајхсверке. Иако су у оквиру сеоских граница изграђени рударски шрафт и логор – у којем су боравили ратни заробљеници приморани на рад – само село са својим имањима у суштини је остало нетакнуто.
Данас је једини подсетник на епоху рударства рудничко насеље изграђено 1956–57. године на путу ка Гилдеу. Последњи рударски воз напустио је руднички шaft у Олендорфу 20. априла 1966. године.
Иако је инфраструктура у овом крају, смештеном на југоисточној периферији града, постепено опадала у другој половини 20. века након затварања продавнице, пекаре, месаре и банке, и данас постоје веома активни клубови који обликују живот заједнице. TSV Олендорф, основан 1924. године, и Добровољна ватрогасна бригада Олендорф имају највећи број чланова.
