Арсений Александрович не мыслил себе жизни без музыки. В пору довоенной молодости он постоянно бывает в концертах в Консерватории, в Доме ученых. В архиве первой жены поэта Марии Ивановны сохранились программки с именами выдающихся музыкантов, а в дневнике поэта и фотографа, близкого друга семьи Льва Владимировича Горнунга можно встретить записи о встречах в концертных залах с четой Тарковских. Позже, с шестидесятых годов, Арсений Александрович начинает собирать граммофонные пластинки. Его коллекция насчитывала три тысячи экземпляров.
Продавцы магазина «Мелодия» хорошо знали своего постоянного покупателя. Вот отрывок из письма Тарковского дочери (лето 1971 года, из Грузии):
«Пожалуйста, позвони по телефону в магазин пластинок Нине Ивановне и попроси ее оставлять мне пластинки… Я боюсь пропустить интересное.
Если ты звонила раньше, то повтори звонок, скажи, что я задерживаюсь…»
Арсений Александрович с любовью относился к своим пластинкам: после покупки заносил название в каталог, поставив на проигрыватель, чистил их от пыли, аккуратно опускал иглу на диск, а после прослушивания обязательно укладывал в конверт. Он делился радостью от приобретенных новинок с близкими ему людьми. Музыка постоянно звучала в его квартире.
Слева направо: Н. Руклевская, М. Тарковская, А. Тарковский, Л. Горнунг. Завражье, август 1930 года