Писатель-прозаик, журналист. Работал в Сталинске (Новокузнецке) в городской газете (1931-1937 гг.). Автор повести о Новокузнецке.
Родился в семье государственного служащего в городе Белая церковь, Киевской области. Литературную деятельность начал как журналист в 1927 году, сотрудничал в редакциях газет Москвы, Баку, Новокузнецка.
Приехал в Сталинск (Новокузнецк) в 1931 году, 6 лет писатель работал в редакциях газет на Кузнецкстрое: «Сибирский гигант», «Большевик Кузнецкстроя», «Большевистская сталь» (под такими названиями выходил современный «Кузнецкий рабочий»). Ежедневно в газетах выходили его статьи и заметки о трудовых победах и недостатках при возведении металлургического гиганта.
Первое изданное произведение автора – сборник очерков «Ингилаб. Азербайджанское социалистическое строительство» - опубликовано в 1931 году.
В 1937-41 годах учился в Литературном институте имени М. Горького.
После опубликования первой повести «Ярмарка» (1941), проникнутой грустным еврейским юмором, Ямпольский получил известность.
Во время Великой Отечественной войны – специальный корреспондент газет «Красная Звезда», «Известия». Писал очерки и репортажи из блокадного Ленинграда. Около полугода он провел в партизанских соединениях Белоруссии, опубликовал много очерков и рассказов о войне: «Зеленая шинель» (1941); «Чужеземец», «Дух наступления», «Сын народа», «На Волге», «Румыны», «На Украине» (1942); «30 дней в тылу врага», «Последний житель», «Партизанские будни», «На воздушном линкоре», «Партизанский командир» (1943);«Кавалерийский офицер», «Земля опаленная», «У ворот Львова» (1944); «Маньчжурские записи» (1946) и другие.
Повесть «Дорога испытаний» (1955) – о закалке характера, о становлении советского солдата-бойца в войне против фашизма.
Еврейская тема проходит через все творчество Ямпольского, особенно ярко она проявилась в повести «Мальчик с Голубиной улицы» (1959) и в воспоминаниях «Последняя встреча с Василием Гроссманом».
Катастрофа европейского еврейства, отношение населения оккупированных территорий к евреям нашли отражение в произведениях, впервые изданных уже после распада Советского Союза, через 20 лет после смерти писателя: «Чудо», «Десять лилипутов на одной кровати», «Близнецы», «Киевский рассказ» (1995).
В 1961 году опубликована повесть «Знакомый город» (Октябрь, 1961, № 2), посвященная работе редакции городской газеты. Знаменитый писатель приезжает в город своей молодости Новокузнецк. Он вспоминает своих коллег, описывает жизнь редакции, под псевдонимами появляются образы журналистов Сталинска 1930-х годов. Ямпольский описывает репрессии на Кузнецкметкомбинате, а также в редакции.
Произведения Ямпольского переводились на многие иностранные языки.
В годы «перестройки» увидели свет роман «Арбат, режимная улица» (1997); воспоминания Ямпольского о Ю. Олеше «Да здравствует мир без меня» и «Последняя встреча с Василием Гроссманом»; рассказы «Отец» и «Девочка Пикассо» (1991); роман «Знакомый город» (1992); неоконченная повесть «Ваша явка обязательна» (1990).
Личная жизнь не сложилась – семьи он не имел. Умер писатель 28 января 1972 года в Москве. Похоронен на Востряковском кладбище.