Rohden studierte ab 1791 an der Kasseler Akademie. 1795 zog er mit Karl du Ry, dem Sohn des Kasseler Baumeisters Simon du Ry nach Rom, wo er bis auf einige Unterbrechungen sein ganzes Leben verbrachte. Anfangs von Joseph Anton Koch und Johann Christian Reinhart beeinflusst, gelangte er bald von der heroischen Landschaftsdarstellung zur realistichen Landschaftsdarstellung. 1802 erhielt er zusammen mit seinem späteren Schwager Ludwig Hummel den Weimarer Kunstpreis. 1812 traf er in Kassel mit Goethe zusammen. Wieder in Rom, konvertierte er zum Katholizismus und heiratete Catarina Coconari, die Tochter des Sibyllenwirtes in Tivoli. Als Kurfürst Wilhelm II. von Hessen-Kassel ihn 1826 zum Hofmaler berief, zog Rohden mit seiner Familie nach Kassel. Er ließ sich jedoch bereits 1829 beurlauben, um in Rom arbeiten zu können. 1832 wurde er aus dem Hofdienst entlassen, bezog aber lebenslang eine Rente, die ihn zur jährlichen Ablieferung zweier Werke verpflichtete.
Rohdens späte Gemälde folgen dem klassischen Kompositionsschema seiner Frühzeit: üppige südländische Phantasielandschaften mit warmer Farbgebung.

H. Mackowsky, Die beiden Rohden, in: Jahrbuch für Kunstwissenschaft 1924/25, S. 47-62; Thieme-Becker 28 (1934), S. 522-523; L. Oehler, Johann Martin von Rohden (1778-1868), in: Lebensbilder 4 (1950), S. 276-284; R. I. Pinnau, Johann Martin von Rohden 1778-1868. Leben und Werk, Bielefeld 1965; Ausst.-Kat. Kassel 2000