محمد یزدی نماینده استان تهران در دومین، سومین و چهارمین دوره مجلس خبرگان رهبری بوده و در چهارمین دوره برای یک سال ریاست این مجلس برعهده داشت. وی که از دوره دوم مجلس خبرگان رهبری تا دوره چهارم عضو آن بود، با ناکامی در انتخابات سال ۱۳۹۴ این مجلس، از راهیابی مجدد به آن بازماند و چهار سال بعد در انتخابات میان دوره‌ای این بار از قم موفق شد وارد این مجلس شود.
وی یکی از مبارزین برجسته قبل از انقلاب بود و در طول دوران انقلاب اسلامی، خدمات ارزنده‌ای به کشور ارائه کرد.
ریاست دادگاه انقلاب اسلامى قم، ریاست دفتر امام (ره) در قم، نمایندگى مجلس خبرگان قانون اساسى، عضویت در شوراى بازنگرى قانونى اساسى، ریاست قوه قضائیه با حکم مقام معظم رهبرى در دو دوره پنج ساله، نمایندگى رؤساى سه قوه در هیأت سه نفره حل اختلاف بین مرحوم رجایى و بنى صدر، نمایندگى مجلس خبرگان رهبرى، نائب رئیس و قائم مقام اجرائى جامعه مدرسین حوزه علمیه قم، عضویت در دوره چهارم و پنجم شورای عالی حوزه‌های علمیه و رئیس دوره پنجم آن شورا از جمله مسئولیت‌های وی بوده است.
آیت‌الله محمّد یزدی از شاگردان برجسته امام خمینی (ره) و آیت الله بروجردی (ره) بودند که در درس‌هاى فقه و اصول امام خمینى (ره) شرکت داشتند.
