Константин Рылов родился в Перми. В 2003 году окончил Хоровое училище им. М.И. Глинки, в 2008 году — Санкт-Петербургскую государственную консерваторию им. Н.А. Римского-Корсакова (класс Татьяны Хитровой).
Уже будучи студентом второго курса, в 2004 году, был принят в хор Мариинского театра, где с 2010 года совмещает должности артиста и директора хора. С 2013 года хормейстер Мариинского театра.
Участвовал в создании спектаклей «Война и мир» (2014), «Евгений Онегин» (2014), «Золотой петушок» (2014), «Троянцы» (2014), «Пиковая дама» (2015), «Рождественская сказка» (2015), «Любовь к трём апельсинам» (2016), «Самсон и Далила» (2016), «Симон Бокканегра» (2016), «Сицилийская вечерня» (2017), «Тангейзер» (2019), «Пеллеас и Мелизанда» (2019), «Снегурочка» (2020).
Под управлением Константина Рылова в Концертном зале Мариинского театра были исполнены Всенощное бдение Рахманинова, хоровая опера Щедрина «Боярыня Морозова», сценическая кантата Орфа «Кармина Бурана».
