Piedzimis Novgorodā latviešu Līnas un Friča ģimenē. Tēvs strēlnieks un feldšeris. 1922.gadā ģimene pārceļas uz Latviju. 1939.gadā beidz skolu Jelgavā un iestājas konservatorijā A.Norīša vijoļspēles klasē. Jau Otrā pasaules kara gados sācis vijolnieka darbu Rīgas Radiofona orķestrī.

Pēc bērnības drauga diriģenta Arvīda Jansona iniciatīvas pēc kara sācis karjeru Latvijas Nacionālās operas orķestrī, bijis tā ilggadējs koncertmeistars, vēlākos gados pievērsies arī diriģenta karjerai, iestudējot gan klasisko baleta repertuāru, gan laikabiedru jaundarbus, piemēram, Oļega Barskova baletu “Inku zelts”.

Arvīds Zvagulis bijis ievērojams vijoļvirtuozs un kamermūziķis, regulāri uzstājies gan toreizējās Latvijas PSR, gan citu PSRS valstu lielākajās koncertzālēs. Mūziķa gaitās ticies un strādājis kopā ar gandrīz visām tā laika izcilākajām latviešu mūzikas personībām, piemēram, Emili Melngaili, Jāzepu Vītolu, Hermani Braunu, Tālivaldi Ķeniņu, Jāni Ķepīti un citiem.

Par mākslinieciskiem nopelniem savulaik apbalvots ar prestižo Latvijas PSR Tautas skatuves mākslinieka titulu. Arvīds Zvagulis ir bijis Valsts kultūrkapitāla fonda mūža stipendiāts.

Laulībā ar Dailu Zvaguli (mir.ap 2017.g. Rīgā) dzimis Pēteris Zvagulis, kurš pēc  Radio Brīvā Eiropa latviešu redakcijas vadiītāja amata bija Prāgas Kārļa universitātes mācībspēks.

Arvīds Zvagulis Rīgas Meža kapos apglabāts blakus Inesei Zvagulei (1945-2004).