Родился 26 декабря 1912 (8 января 1913 н.с.) в Луцке в семье железнодорожного рабочего. Раннее детство прошло в деревне, где получил начальное образование, затем продолжил учение в московской семилетке. Рано начал писать стихи.

В 1931 окончил полиграфическую фабрично-заводскую школу, где публиковал свои стихи в цеховой стенгазете, писал обозрения для агитбригады. В это же время занимался в литературных кружках при "Комсомольской правде" и "Огоньке", был замечен Светловым и Багрицким.

В 1932 вышла первая книжка стихов Смелякова "Работа и любовь", которую он сам же и набирал в типографии как профессиональный наборщик.

В 1934 по необоснованному обвинению Я.Смеляков был репрессирован, выйдя на свободу в 1937. Несколько лет работал в редакциях газет, был репортером, писал заметки и фельетоны.

В первые месяцы Отечественной войны рядовым солдатом воевал в Карелии, попав в окружение, до 1944 находился в финском плену.

В послевоенные годы вышла книга "Кремлевские ели" (1948), в которую вошли лучшие стихи Смелякова, написанные до и после войны.

В 1956 была опубликована повесть в стихах "Строгая любовь", получившая широкое признание.

В 1959 появился поэтический сборник "Разговор о главном"; явлением в советской поэзии стала книга стихов "День России" (1967).

В 1968 была написана поэма о комсомоле "Молодые люди".

В последние годы поэт все чаще обращался к дням, людям и событиям своей молодости. Много ездил по стране (цикл "Дальняя поездка"), бывал за рубежом, о чем поведал в книге "Декабрь", в разделе "Муза дальних странствий".

Переводил стихотворения с украинского, белорусского и других языков народов СССР. Умер Я.Смеляков в 1972.

После смерти поэта вышли его книги "Мое поколение" (1973) и "Служба времени" (1975).