پس از پیروزی انقلاب اسلامی، مجلس خبرگان قانون اساسی به منظور تدوین و تصویب قانون اساسی برای نظام جدید تأسیس و در تاریخ ۲۸ مرداد ۱۳۵۸ در محل سابق مجلس شورای ملی افتتاح شد.
آیت‌الله طالقانی به عنوان نماینده مردم تهران بیشترین آرا را برای ورود به مجلس خبرگان قانون اساسی به دست آورد. اما، او پیش از نهایی شدن متن قانون اساسی و قبل از تصویب برخی مواد مهم این قانون چشم از جهان فروبست. طالقانی معتقد بود که مجلس خبرگان قانون اساسی باید بر مبنای مدیریت شورایی کشور و از پایین به بالا انتخاب می‌شد تا مشکلات و اختلافات بعدی در جریان تأسیس حکومت بعد از انقلاب پیش نمی‌آمد.
همچنین، طالقانی در یکی از جلسات، در اعتراض به برگزاری نشست‌های این مجلس در محل سابق مجلس سنای رژیم شاه بر زمین نشسته و گفته است: «از نشستن روی صندلی‌ای که سناتورها روی آن نشسته‌اند نفرت دارم.» او معتقد بود این مجلس باید در مسجد و به دور از تشریفات باشد.