Cmentarz na Oksywiu zalicza się do stosunkowo młodych nekropolii, jego historia sięga roku 1936, gdy po katastrofie lotniczej gen. dyw. Orlicz-Dreszera, jego przyjaciele wykupili grunt na oksywskiej skarpie, by utworzyć tam cmentarz wojskowy. Cmentarz został zaliczony do cmentarzy garnizonowych w roku 1938 na mocy rozkazu nr 7 ówczesnego Ministra Spraw Wojskowych gen. dyw. Tadeusza Kasprzyckiego. Do września 1939 roku znajdowało się na nim około 60 grobów oraz Mauzoleum gen. Dreszera. Po zajęciu przez Niemców Oksywia podczas II wojny światowej, nastąpiła brutalna likwidacja cmentarza, połączona z wysadzeniem Mauzoleum i rabunkiem zwłok generała.

Na dalsze losy miejsca na oksywskim klifie trzeba było czekać do roku 1987, kiedy to pojawiła się propozycja upamiętnienia miejsca spoczynku generała Orlicz-Dreszera. Po uprzednich wyprawach rekonesansowych i ustaleniu najbardziej prawdopodobnej lokalizacji Mauzoleum, dnia 31 października 1989 roku ustawiono pamiątkowy obelisk, poświęcony przez ks. kmdr. Emila Dybka. Dnia 6 grudnia 1992 roku ukazało się zarządzenie nr 6 dowódcy Garnizonu Gdynia, w sprawie utworzenia Cmentarza Wojskowego Marynarki Wojennej RP na Oksywiu, a poświęcenie cmentarza przez Biskupa Polowego gen. dyw. Sławoja Leszka Głódzia odbyło się dnia 1 listopada 1994. Swego rodzaju klamrę spinającą przedwojenne dzieje nekropolii z jego najnowszą historią, stanowi umieszczenie nieopodal wejścia na cmentarz tablicy upamiętniającej przedwojenny rozkaz generała Kasprzyckiego