Raphael Alpermann studierte an der Berliner Musikhochschule Hanns Eisler und anschließend als Meisterschüler an der Akademie der Künste. Er nahm Unterricht bei Gustav Leonhardt und Ton Koopman. 

Der Akademie für Alte Musik Berlin gehört er seit 1981 an. Bei vielen Aufnahmen und Konzerten des Ensembles ist er als Solist zu hören. Desgleichen ist er Mitglied der Berliner Barock Solisten.  

1995 debütierte er bei den Berliner Philharmonikern mit einem Konzert von Johann Sebastian Bach. Seither ist er oft Gast dieses Orchesters sowie anderer namhafter Ensembles. Er konzertierte mit Dirigenten wie Claudio Abbado, Sir Simon Rattle, Nikolaus Harnoncourt, Jordi Savall und Seiji Osawa, machte Konzerte und Aufnahmen u.a. mit Thomas Quasthoff, Cecilia Bartoli, Peter Schreier, Frank Peter Zimmermann, Rainer Kussmaul, Albrecht Mayer und Emmanuel Pahud.  

Konzertreisen führten ihn in die bedeutendsten Konzertsäle auf fünf Kontinenten und zu Festivals weltweit. Mehr als 200 CDs spielte er in verschiedenen Besetzungen ein, etliche davon wurden preisgekrönt (u.a. Grammy Award, Jahrespreis der deutschen Schallplattenkritik, ECHO Klassik, OPUS Klassik). 

Neben seiner umfangreichen Konzerttätigkeit unterrichtet er an Hochschule für Musik Hanns Eisler, der Universität der Künste Berlin, gibt Kurse und leitet Projekte an Hochschulen im In- und Ausland (Europa, USA) sowie der Karajan-Akademie der Berliner Philharmoniker.  

Für das Leipziger Bachfest 2013 stellte er Werke Bachs in sechs Kantaten zu einem Christus-Oratorium zusammen, das seither vielfach aufgeführt wurde.  

Im Jahr 2005 gründete er mit der Landesmusikakademie Michaelstein das Jungendbarockorchester Bachs Erben. Unter seiner Leitung entstanden mit diesem Ensemble u.a. mehrere Rundfunkaufnahmen. In einer eigenen Konzertreihe in der Berliner Sophienkirche widmet er sich dem Vokalwerk Johann Sebastian Bachs.