آیت الله علوی گرگانی نزد پدرش ادبیات عرب را فرا گرفت و در سن ۱۶ سالگی عازم سفر عتبات و مناسک حج گردید و در بازگشت از حج قصد داشت در نجف اقامت نماید اما به توصیه آیت الله سید محسن حکیم (ره) به قم بازگشت. وی درس‌ های عالی سطح را در طی چهار سال نزد بزرگانی همچون مجاهدی تبریزی، سلطانی طباطبائی و ستوده اراکی فرا گرفت.

وی همچنین به مدت سه سال در درس خارج فقه حضرت آیت الله العظمی بروجردی رحمة الله علیه و هشت سال نیز در درس خارج اصول حضرت امام خمینی رضوان الله تعالی علیه و پانزده سال نیز در درس خارج فقه حضرت آیت الله حاج شیخ مرتضی حائری یزدی (ره) شرکت کرد. از اساتید دیگر وی حضرت آیت الله العظمی گلپایگانی و محمد علی اراکی (ره) می باشند.

·         دست خط حضرت آیت الله علوی گرگانی در مورد اعضای فرقه بهائیت