В период с 1919 сначала работает учителем, а в конце 1920 года сменяет множество профессий, в том числе работает продавцом надгробных памятников и воскресным органистом в часовне при госпитале для душевнобольных. Эти события впоследствии легли в основу «Чёрного обелиска».
В 1929 году опубликовал наиболее известное из его произведений, «На западном фронте без перемен», описывающее жестокость войны с точки зрения 20-летнего солдата. Затем последовали ещё несколько антивоенных сочинений; простым, эмоциональным языком в них реалистично описывалась война и послевоенный период. За этот роман его в 1931 году номинировали на Нобелевскую премию, но при рассмотрении Нобелевский комитет это предложение отклонил.
В 1933 году нацисты запретили и сожгли произведения Ремарка. Сожжение книг студенты-нацисты сопровождали речёвкой «Нет — писакам, предающим героев Мировой войны. Да здравствует воспитание молодёжи в духе подлинного историзма! Я предаю огню сочинения Эриха Марии Ремарка». После этого Ремарк оставил Германию и поселился в Швейцарии.
В 1937 году писатель познакомился с Марлен Дитрих, с которой у него завязался бурный и мучительный роман. Многие считают Марлен прообразом Жоан Маду — героини «Триумфальной арки».
Его старшая сестра Эльфрида Шольц, оставшаяся в Германии, была арестована за антивоенные и антигитлеровские высказывания в 1943 году. На суде она была признана виновной и 16 декабря 1943 года была казнена (гильотинирована). Существуют свидетельства, что судья ей объявил: «Ваш брат, к несчастью, скрылся от нас, но вам не уйти». Ей Ремарк посвятил свой роман «Искра жизни», вышедший в 1952 году. 25 лет спустя её именем назвали улицу в её родном городе Оснабрюке.
Умер Ремарк 25 сентября 1970 года в возрасте 72 лет в городе Локарно, и похоронен на швейцарском кладбище Ронко в кантоне Тичино.
Эрих Мария Ремарк отнесен к писателям «потерянного поколения». Эта группа «рассерженных молодых людей», прошедших ужасы первой мировой войны и увидевших послевоенный мир вовсе не таким, каким он виделся из окопов, написали свои первые книги, так шокировавшие западную публику. К таким писателям относились Олдингтон, Дос Пассос, Хемингуэй.