پدرش كمانچه‌نواز خوبی بود و رحیمی در كنار پدر و از سن 8 سالگی به آموختن و نواختن كمانچه پرداخت. وی در نواختن سبك قدیم كمانچه نوازی منحصر به فرد بود و بسیاری از لحن‌هاو نواهای منطقه را به خوبی و استادانه می‌نواخت.

عمده فعالیت رحیمی به نواختن كمانچه با گروهی 8 نفره در مراسم شادیانه ‌منطقه اختصاص داشت، اما در سال‌های میانی دهه 70 كه توجه به نوازندگان شاخص موسیقی مناطق رونق گرفت، وی به همراه سهراب محمدی( بخشی و دوتار نواز نامی) به جشنواره‌های مختلف دعوت شدند كه آخرین آن جشنواره موسیقی نواحی كرمان در سال 83 بود كه كتیبه‌ای را در كنار سایر استادان به خود اختصاص داد.

وی به همراه سهراب محمدی نوازنده نامی دوتار و خنیاگر خبره، از آخرین راویان و منادیان موسیقی منطقه كرمانج به شمار می رفتند.

رحیمی شب 12 بهمن 1388 در سن 77 سالگی بر اثر سكته قلبی در منزلش در آشخانه در گذشت. وی قرار بود در جشنواره فجر سال 88 هم مورد تقدیر قرار گیرد.