Dapprima studiò pianoforte con Francesco Canneti, e più tardi contrappunto. Per aver preso parte ai moti politici del 1848, dovette trasferirsi a Firenze, ma nel 1852 poté tornare a Vicenza e dedicarsi completamente alla composizione. Il 14 agosto 1852 fece rappresentare al teatro Eretenio di Vicenza la sua prima opera, Adelchi, alla quale, dopo circa tre anni, seguì una seconda, L'Ebreo, che venne eseguita il 25 gennaio 1855 a Venezia al teatro La Fenice (ai suoi tempi fece tremare nientepopodimenoché Verdi per il successo ottenuto con L'ebreo. Opera di sangue e conflitti fra mori, cristiani e naturalmente ebrei). L'opera ebbe un successo enorme: fu ripresa il 2o novembre dello stesso anno al teatro Argentina di Roma come Lida di Granata e al S. Carlo di Napoli come Leila di Granata, i cambiamenti di titolo essendosi resi necessari per esigenze della censura, mentre al teatro alla Scala di Milano fu rappresentata il 26 dicembre con il titolo originale. Nel giro di un anno e poco più, l'opera fu data anche nei maggiori teatri stranieri (Barcellona, Corfù, Malta, Odessa, Costantinopoli, New York).
Meno felici, tuttavia, si rivelarono le opere successive, Pietro d'Abano, Filippo di Kónismarch, ed infine Gustavo Wasa con laquale l'attività teatrale di Apolloni ebbe termine.
Altre composizioni da ricordarsi, oltre alle opere sopra citate, sono una rapsodia sinfonica I canti dell'Appennino, una cantata La Bandiera vicentina, su testo di Emilio Boschetti, eseguita alla presenza di Vittorio Emanuele II nel 1866, e uno Stabat Mater. Quest'ultima composizione, rimasta incompiuta e completata da G. Orefice e R. Lesine.
«Per quanto riguarda l'interesse artistico della produzione dell'Apolloni, la critica e il successo arriso a L'ebreo fecero ritenere ai contemporanei che l'opera raggiungesse altezze verdiane. Non sembra possibile, però, oggi condividere questo lusinghiero giudizio, ravvisando anche in questa, come nelle altre opere (alle quali toccarono limitati successi), un indulgere a gusti di effetto più esternamente teatrale che di effettiva potenza musicale». [Oscar Mischiati - Dizionario Biografico degli Italiani - Volume 3 (1961)]