Андрей Яровой родился в Москве. Окончил Российскую академию музыки имени Гнесиных и ассистентуру-стажировку РАМ (класс Игоря Богуславского), а также Техасский христианский университет в Форт-Уорте (TCU, США) по специальности «альт».
Лауреат международного конкурса камерной музыки в Агуаскальентесе, Мексика (I премия).
В 1993–2000 гг. – артист оркестра Большого театра, участник Ансамбля солистов Большого театра. В 2000–2008 гг. – концертмейстер группы альтов Симфонического оркестра штата Сан-Луис-Потоси (Мексика). Работал также в Симфоническом оркестре Далласа (США), оперных театрах Далласа и Валенсии (Испания). В качестве концертмейстера группы альтов выступал в составе Российско-Американского молодежного оркестра, Симфонического оркестра Сан-Анджело (штат Техас, США) и Далласского камерного оркестра.
Принимал участие в фестивалях в Элее (Velia Festival, Италия), Безансоне (Франция), Music in the Mountains в штате Колорадо (США), «Сервантино» (Мексика).
С 2012 года – артист Национального филармонического оркестра России.