Varşova Askeri Okulu'nda öğrenim gördü. Napoléon'un 1812 Rusya Seferi'ne katılan Polonya topçu birliğinde ve özellikle 1813'teki Danzig savunmasında üstün askeri yeteneğini kanıtladı. 1815'te yeniden ülkesine dönerek Polonya ordusuna girdi ve Varşova Topçu Okulu'nda öğretim üyesi, bir süre sonra da general oldu.

Polonya'nın Rusya'ya karşı giriştiği özgürlük savaşında (1830-31) üstün bir çabayla çarpıştı, Ostrołęka'da büyük yararlılıklar gösterdi. Ayaklanmanın bastırılması üzerine önce Leipzig'e, sonra da Paris'e sığınmak zorunda kaldı.

1848'de Avusturya yönetimine karşı ayaklanan Macar milliyetçilerinin önderi Lajos Kossuth'a katıldı ve Erdel'i savunmakla görevlendirildi. Avusturyalılar karşısında küçük bir orduyla, özellikle 9 Şubat 1849'da kat kat üstün kuvvetleri püskürttüğü Piski Köprüsü mevzilerinde büyük başarılar elde etti; bu sırada Rusların işgal ettiği Erdel'i savunmak üzere geri dönmek zorunda kaldı. 31 Temmuz'da Segesvár yakınlarındaki son savaşta üstün Rus kuvvetleri, Macar ordusunu yok etti. Bem ölü taklidi yaparak kurtuldu.

1849'da Macar ayaklanmasının bastırılması üzerine Lajos Kossuth ve düğer Macar yurtseverleriyle birlikte Osmanlı Devleti'ne sığınan Bem, İslam dinini benimsedi ve Murad Paşa adını alarak Halep valisi oldu Burada bir Arap ayaklanmasını bastırdı (1850), Hıristiyanlara karşı girişilen bir kıyım hareketini, yaşamını tehlikeye atarak önledi.

Kemikleri 1929'da Halep'ten Polonya'ya götürüldü. Józef Bem, Polonya ve Macaristan'da ulusal kahraman kabul edilir.