شيخ علي وی مقدمات علوم دینی، ادبیات فارسی و عربی را نزد پدرش فراگرفت. او دوره سطح را در محضر جماعتی از اهل علم در تهران آموخت. شیخ علی پس از رحلت پدر، ایران را به قصد عتبات ترك نمود و دو سال در آنجا اقامت گزید. وی به شهر مقدس نجف رفت و تصمیم گرفت برای تكمیل تحصیلات به محضر استادان حوزه نجف راه یابد. قبل از چهل سالگی در زمره مجتهدان و بزرگان فقه قلمداد گردید و نزد استادان خویش و نیز مشاهیر علمی نجف منزلتی ویژه همراه با تكریم و احترام به دست آورد. شیخ علی قمی در محضر محدث نوری كتاب مستدرك الوسایل را از بدو تا ختم خواند و بدین گونه در خصوص احادیث و سندهای آن مهارتی ویژه و ژرف بینی خاصی بدست آورد. وی از میرزا حسین نوری و شاگردش شیخ عباس قمی اجازه روایت دریافت كرده است. شیخ علی قمی، بر پشت جلد دوم كتاب شرح مقبره اجازه مفصلی را كه از شیخ عباس قمی دریافت نموده، آورده است كه تاریخ آن 1323ق است. قمی همراه با عارفانی چون شیخ محمد بهاری همدانی، سید احمد كربلایی تهرانی، جواد آقا ملكی تبریزی، سید محمدسعید حبوبی و دهها نفر از دانشوران از محضر عرفانی آخوند ملا حسينقلي همدانی بهره برد و