মোমেন ১৯৪৭ সালের ২৩শে আগস্ট বাংলাদেশের সিলেটে জন্মগ্রহণ করেন। তার পিতা আবু আহমদ আব্দুল হাফিজ ছিলেন সিলেট জেলা মুসলিম লীগের প্রতিষ্ঠাতা। তার মা সৈয়দা শাহার বানু ভাষা আন্দোলনের অন্যতম সংগঠক এবং সিলেটে নারী জাগরণের অগ্রদূত। তার ভাই আবুল মাল আব্দুল মুহিত বাংলাদেশের অর্থমন্ত্রী হিসেবে দায়িত্ব পালন করেছেন আব্দুল মোমেন ঢাকা বিশ্ববিদ্যালয় থেকে ১৯৬৯ সালে অর্থনীতিতে বি.এ এবং ১৯৭১ সালে উন্নয়ন অর্থনীতিতে এম.এ অর্জন করেন। তিনি ১৯৭৯ সালে হার্ভার্ড বিজনেস স্কুল থেকে এমবিএ পাস করেন।এরপর ১৯৭৬ সালে ঢাকার সেন্ট্রাল কলেজ থেকে আইনশাস্ত্রে এলএলবি অর্জন করেন। এরপর তিনি যুক্তরাষ্ট্রে তার লেখাপড়া চালিয়ে যান এবং নর্থইস্টার্ন বিশ্ববিদ্যালয়, বোস্টন, ম্যাসাচুসেটস থেকে ১৯৮৮ সালে অর্থনীতিতে পিএইচডি সম্পন্ন করেন।