Rudolf Diesel életét már fiatalon meghatározta a költözés. A francia–porosz háború 1870-es kitörésekor családja másodszor is emigrálni kényszerült, ezúttal Londonba. A 12 éves Rudolfot Augsburgba küldték tanulni, abba a reáliskolába, ahol nagybátyja matematikát tanított.

Tizenöt évesen felvették az augsburgi ipariskolába. Ennek elvégzése után ösztöndíjjal folytathatta tanulmányait a müncheni műszaki főiskolán. Egyik tanára Carl von Linde volt, aki termodinamikát oktatott, és a kriogén technika egyik megalapozójaként kidolgozta a gázok hűtésének és szétválasztásának módszerét. Lényegében ő volt a hűtőgép feltalálója is.

Diesel 1880-ban kitüntetéssel végzett, majd Párizsba ment. Hamarosan von Linde jéggyártó vállalatának helyi fiókját vezette, és rövid időn belül megszerezte első szabadalmát is, amely átlátszó jég előállítására vonatkozott.

Ám nem a jég, hanem a tűz foglalkoztatta igazán. Az August Otto által nem sokkal korábban megalkotott belső égésű motort akarta továbbfejleszteni. Úgy vélte, az Otto-motornak komoly hátrányai vannak: akkori hatásfoka mindössze 15 százalék volt, gyújtórendszere pedig bonyolultnak és megbízhatatlannak bizonyult.

Diesel először a Carnot-féle termodinamikai körfolyamattal kísérletezett, később pedig kidolgozta saját ciklusát. Első szabadalmi kérelmét 1892-ben nyújtotta be „a belső égésű motor működési elvére és szerkezetére”, majd 1893-ban egy másodikat is beadott. Ugyanebben az évben jelentette meg A racionális hőerőgép elmélete és szerkezete a gőzgépek és a meglévő belső égésű motorok felváltására című munkáját.

Elgondolásának lényege az volt, hogy elhagyta a külön gyújtórendszert: az üzemanyag a sűrítés során felhevült levegőtől gyulladt meg. A porlasztót szintén mellőzte, és nagynyomású szivattyúval váltotta fel.

1893-ban az MAN, vagyis a Maschinenfabrik Augsburg-Nürnberg üzemében megkezdődött a motorok gyártásának előkészítése. A prototípusok tökéletesítése azonban lassan haladt, és egészen 1897-ig tartott. Az első sorozatgyártású példányokat helyhez kötött berendezésekben alkalmazták. Sem tényleges hatásfokuk, sem megbízhatóságuk nem volt kifogástalan, ezért sok vásárlói panasz érkezett rájuk.

A feltaláló álma, hogy motorjai járművekbe is bekerüljenek, csak 1903-ban kezdett valóra válni, amikor elkészült az első dízelmotoros hajó. Az MAN első dízelmotoros teherautója azonban csak 1924-ben jelent meg.

Ezt Diesel már nem érhette meg. 1913. szeptember 29-én Antwerpenben felszállt a Londonba tartó Dresden postagőzösre. Egy héttel később a La Manche csatornából emelték ki a holttestét. Életrajzírói szerint pénzügyi nehézségei és az ezek nyomán kialakult válság miatt követett el öngyilkosságot.