در ششمین روز، وی در سال [[۳۲۹ هجری]] از دنیا رفت. ولی شیخ صدوق در کتاب کمال الدین، ج۲، ص۵۰۳ و فضل بن حسن طبرسی در کتاب اعلام الوری، ص۴۱۷ سال رحلت ایشان را سال ۳۱۸ه.ق. ثبت کرده‌اند.
مقبره شیخ سُمَّری درنزدیکی مزار [[شیخ کلینی]] در [[بغداد]] است.
پیش از مرگش از وی پرسیدند: ''نایب بعد از تو کیست؟'' جواب داد: ''اجازه ندارم کسی را معرفی کنم''.
البته او نمی گوید بعد از من نائبی نیست. بلکه می گوید من نمی توانم کسی را معرفی کنم. یعنی چه بسا بعد از نائبی وجود داشته باشد. اما نائبان در دوران غیبت کبرا حق ندارند که خود را به مردم معرفی کنند. اما فلسفه غیبت چیزی نیست جز بی لیاقتی شیعیان. بنابر اعتقادات شیعه رحمت خدا برقرار است. قابلیت انسان و مردم بهره ایشان را از رحمت خدا مشخص می کند. پس همانطور که بی لیاقتی شیعیان باعث شد که مهدی و نائبان او به غیبت بروند، در صورتی که آنان شایستگی پیدا کنند و متعهد به یاری مهدی شوند او باز می گردد و همانطور که غیبت صغری مقدمه غیبت کبری بود ظهور صغری هم مقدمه ظهور کبری خواهد بود. بدین معنا که قبل از ظهور مهدی نائب و فرستاده او می آید.
