پدر بروجردی سید محمد حسین علوی از شاگردان، مشاور و داماد سید حسین بروجردی بود که بعد از رحلتمرگ وی، به تهران مهاجرت کردندکرد. مادرش هم، آغا سکینه دختر حسین بروجردی است<ref>http://www.bjafari.ir/index.php/معاونت-آموزشی/معرفی-اساتید/49-حضرت-آیت-الله-حاج-سید-محمد-جواد-علوی-طباطبائی</ref>
وی تحصیلات ابتدایی خود را در شهر قم آغاز کرد و با پایان تحصیلات ابتدایی، دورهٔ متوسطه را در تهران گذراند و همزمان با تحصیل در دبیرستان، در مدرسهٔ علمیهٔ عبدالحسین بازار به تحصیل علوم دینی پرداخت. او در سال ۱۳۴۸ برای ادامهٔ تحصیلات علوم دینی به قم بازگشت و از محضر اساتید این شهر بهره برد و همزمان با تحصیل، به تدریس دروس سطح و عالی پرداخت.<ref>{{یادکرد وب|نام خانوادگی=صدر|نام=پایگاه اطلاعرسانی امام موسی|کد زبان=fa-IR|وبگاه=www.imam-sadr.com|نشانی=http://www.imam-sadr.com/تاریخ-شفاهی/چهرههای-تاریخ-شفاهی/نمایش-مطالب-تاریخ-شفاهی/tabid/137/ArticleId/7124/دربارۀ-آیت-الله-سید-محمدجواد-علوی-بروجردی.aspx|عنوان=دربارهٔ آیتالله سید محمدجواد علوی بروجردی|بازبینی=2018-05-16}}</ref> بروجردی از شاگردان مشهور [[حسین وحید خراسانی|وحید خراسانی]] و سید محمد روحانی است.<ref>{{یادکرد وب|کد زبان=fa-IR|وبگاه=alaviboroujerdi.ir|نشانی=http://alaviboroujerdi.ir/اخبار-و-بیانات/ID/2631/مرجعیت-یک-ریاست-نیست-بلکه-یک-مسيولیت-بسیار-سنگین-است-که-پذیرفتن-ان-دوش-بسیار-بااستقامتی-میخواهد|عنوان=مرجعیت یک ریاست نیست، بلکه یک مسئولیت بسیار سنگین است که پذیرفتن آن، دوش بسیار بااستقامتی میخواهد|بازبینی=2019-01-06}}</ref>