Dzimis Jervamā apriņķī Vihmutas pagastā.

1893. gadā beidzis Kuresāres jūrskolu. 1895. gadā Tallinā nokārtojis tālbraucēja kapteiņa eksāmenus.

1889.-1907. braucis jūrā.

1899-1900. dienējis uz bruņukuģa "Admiral Ušakov".

1907. gadā Liverpūlē Anglijā nodibinājis Igauņu-latviešu kuģniecības aģentūru, bijis tās īpašnieks līdz 1911. gadam.

Vēlāk dibinājis kuģniecības piederumu tirdzniecības uzņēmumu "Joh. Pitka un Co". Bijis vadītājs (firma darbojusies Tallinā līdz 1924. gadam).

1912. gadā nodibinājis Tallinas kuģniecības savienību (darbojusies līdz 1921. gadam).

1917. gadā dibinājis kuģniecības un jūras tirdzniecības biedrību "Kuģniecība".

1917-1918. gadam bijis Baltijas Glābšanas biedrības reorganizētājs, tās līdzīpašnieks un vadītājs.

Pitka bijis viens no igauņu bruņoto spēku veidotājiem 1917. gadā, Tallinas karavīru biroja un Igaunijas karavīru virskomisijas loceklis 1917. gadā.

Līdz 1918. gada beigām izveidojis Tallinas pašaizsardzības vienības.

Aizsargu (kaitselita) organizācijas dibinātājs.

1918.-1919. Bruņuvilcienu un auto karaspēka vienību dibināšanas un apgādes vadītājs un bruņuvilciena Nr. 1. komandieris.

No 1918. gada 15. decembra Igaunijas Jūras spēku komandieris.

1919. gada 21. septembra paaugstināts par viceadmirāli.

Piedalījies daudzās kaujās, to skaitā operācijās pie Rīgas (Daugavgrīvas) no 1919. gada maija līdz novembrim.

1920. gada 17. aprīlī atvaļināts, izbraucis uz dzīvi Kanādā, dzīvojis Jaunkaledonijā, bijis zemkopis.

1924.-1930. kokzāģētavas īpašnieks.

Tad atgriezies Igaunijā, līdz 1937. gada beigām bijis Igaunijas Patērētāju biedrības Centrālās savienības priekšnieks.

Aktīvs Igaunijas brīvības cīnītāju savienības loceklis; piederējusi lauku saimniecība Kiltsi stacijas tuvumā.

1937-1939. izdevis memuārus "Manas atmiņas no pirmā pasaules kara sākuma līdz Igaunijas Atbrīvošanas kara beigām".

Apbalvots :

*Igaunijas Brīvības krusta I šķ. 1. pak., *Anglijas Sv. Georga ordeni

*Sv. Mihaila ordeni

*Latvijas un Igaunijas medaļām.

1940.-1944. dzīvojis Somijā.

1944. gada 22. aprīlī atgriezies Igaunijā.

Ap 1944. gada 21-22. septembri pazudis bez vēsts Rietumigaunijā. Pitkam pieder vislielākie nopelni Igaunijas jūrniecības attīstībā un Igaunijas neatkarīgās valsts izveidē.

Abus viņa dēlus 1942. gada vasarā Soļikamskā noslepkavoja čekisti.

Pitkas bojāejas apstākļi ir mīklaini un nav noskaidroti līdz šai dienai (par to sīkāk lasāms V. Pinna grāmatā "Kolmteist legendi admiral Johan Pitka hihkumisest". Haapsalu, 1991).

Johana Pitkas lauku mājas, memoriāls :