Юрий Яковлев родился 25 апреля 1928 года в Москве в семье юриста В.В. Яковлева.
С началом Великой Отечественной войны семья Яковлевых эвакуируется в Уфу. Там, в Уфе, тринадцатилетний Юра Яковлев работал вместе с матерью в госпитале. В 1943 году Яковлевы вернулись в Москву. Юрий учился в вечерней школе, работал помощником механика в гараже.
В 1948 году поступал во ВГИК, но неудачно (вердикт приёмной комиссии: "некиногеничен"), после чего был принят в знаменитое Театральное училище им. Б. Щукина (курс вела Цецилия Львовна Мансурова). Учёба поначалу давалась нелегко. Первый курс Ю. Яковлев окончил с двойкой по главной дисциплине, актёрскому мастерству. Отчислению воспротивилась Мансурова, заявившая: "Я его переведу, потому что он мне интересен. Буду с ним работать" .
В 1952 году окончил Театральное училище им. Б. В. Щукина и поступил на службу в Академический театр им. Евг. Вахтангова. В кино с 1955 года (первая большая роль — князь Мышкин в фильме "Идиот", 1958).
В 1976 Яковлев стал Народным артистом СССР, а в 1979 – лауреатом Государственной премии СССР.