Seinen ersten Violoncellounterricht erhielt Jakob Mitterer im Alter von 8 Jahren an der lokalen Musikschule in Meran. Im Alter von 15 Jahren bestand er die Zulassungsprüfung in den Vorbereitungslehrgang an der Universität für Musik und darstellende Kunst Wien, welchen er in der Klasse von Wolfgang Aichinger (Wiener Symphoniker) absolvierte.
Nach der Matura mit Auszeichnung am Wiener Schottengymnasium studierte Mitterer in der Klasse von Robert Nagy (Wiener Philharmoniker) sowie ab 2019 in der Klasse von Peter Somodari (Wiener Philharmoniker). Im Studienjahr 2018/2019 absolvierte Mitterer einen Studienaufenthalt am Conservatoire national supérieur de musique et de danse de Paris in den Klassen von Raphaël Pidoux (Trio Wanderer) und Marc Coppey. 2020 schloss Mitterer sein Studium mit einstimmigem sehr gut ab.
In seiner Kindheit gewann Mitterer zahlreiche Preise beim Jugendmusikwettbewerb Prima la Musica. Als Solist trat er unter anderen mit dem Tiroler Kammerorchester Innstrumenti, dem Orchester der Akademie St. Blasius und dem Südtiroler Jugendblasorchester auf. Als Kammermusikpartner erfolgten Einladungen zum NYCMF in Stavanger, in den Brahmssaal des Wiener Musikvereins, zum Brussels Cello Festival und zu den Grandhotel Chamber Sessions in Toblach, wobei Mitterer bereits mit Mitgliedern der Wiener Philharmoniker, Wiener Symphoniker, des Gewandhausorchesters & des Mahler Chamber Orchestras auftreten konnte.
Nach Unterricht bei Itamar Golan am CNSM de Paris spielt Mitterer seit 2018 regelmäßig mit der iranischen Pianistin Nika Afazel im Duo. Darüber hinaus war Mitterer 2015 und 2016 Stipendiat am Musikforum der Wiener Philharmoniker in Trenta (Slowenien). 2019 war er als Mitglied des Artel Quartett Wien (2016-2019) Stipendiat der ProQuartet Stiftung des centre européen de la musique de chambre Paris sowie Teilnehmer an der Gustav-Mahler-Akademie in Bozen und an der Cello-Akademie in Rutesheim.
Als passionierter Orchestermusiker konnte Mitterer bereits Konzerte in den Reihen einiger Jugendorchester (WJO, JONDE, Gustav Mahler Akademie), in Projekten mit dem Royal Concertgebouw Orchestra (RCO meets Europe) sowie als Substitut beim Ensemble Intercontemporain Paris, beim ORF Radiosymphonieorchester Wien & bei der Orchestra Haydn di Trento e Bolzano Erfahrungen sammeln, wobei er in Sälen wie dem Musikverein Wien, dem Konzerthaus Wien, der Philharmonie de Paris und der Elbphilharmonie Hamburg auftreten konnte. 2021-2022 ist Mitterer auf Basis eines Zeitvertrages bei den Wiener Symphonikern engagiert.
Impulse in der Kammermusik setzten die Zusammenarbeit mit Größen wie Isabel Charisius (Alban Berg Quartett), Alasdair Tait (Belcea Quartett) & Johannes Meissl (Artis Quartett), in der zeitgenössischen Musik mit Eric-Maria Couturier (Ensemble Intercontemporain) und Andreas Lindenbaum (Klangforum Wien).
Darüber hinaus gewann Mitterer Einblick in die Welt des Barockcellos durch die Zusammenarbeit mit Bruno Cocset am Pariser Konservatorium und mit Dorothea Schönwiese (Concentus Musicus Wien) an der MDW in Wien.
Mitterer ergänzte sein Wissen in Meisterkursen mit Cellisten wie Miklos Perenyi, Frans Helmerson, Gary Hoffman, Julian Steckel, Wen Sinn-Yang, Jerome Pernoo, Norbert Anger, Sebastian Klinger, Wolfgang Herzer und anderen.
Neben seiner musikalischen Ausbildung ist Mitterer seit 2020 Masterstudent an der Executive Academy der Wirtschaftsuniversität Wien sowie Student an der Weinakademie Rust. Von 2014 – 2016 studierte er außerdem Musikwissenschaft an der Universität Wien.