আলী ইমাম মজুমদার ১৯৫০ সালে কুমিল্লার নানুয়া দিঘিরপাড়ে জন্মগ্রহণ করেন। তিনি চট্টগ্রাম বিশ্ববিদ্যালয়ে গণিত বিভাগে ১৯৬৯ সালে স্নাতক ও ১৯৭৩ সালে স্নাতকোত্তর ডিগ্রি সম্পন্ন করেন। ১৯৭৭ সালের বাংলাদেশ সিভিল সার্ভিসের প্রশাসন ক্যাডারের সদস্য হিসেবে চাকরিতে যোগদান করেন। প্রশাসনের বিভিন্ন স্তরে সহকারী কমিশনার, উপজেলা নির্বাহী অফিসার, অতিরিক্ত জেলা ম্যাজিস্ট্রেটসহ উপজেলা ও জেলায় বিভিন্ন দায়িত্ব পালন করেন।
অভিজ্ঞ এই কর্মকর্তা শ্রম ও কর্মসংস্থান মন্ত্রণালয়ের সচিব, সংস্থাপন মন্ত্রণালয়ের সচিব হিসেবে কাজ করেছেন। এছাড়াও তিনি প্রধানমন্ত্রী কার্যালয়ের মূখ্য সচিব ও পরিকল্পনা কমিশনের সদস্য হিসেবে দায়িত্ব পালন করেন। বিমান বাংলাদেশ এয়ারলাইন্স ও সোনালী ব্যাংক লিমিটেডের চেয়ারম্যান হিসেবেও দায়িত্ব পালন করেছেন।
২০১৬ সাল থেকে তিনি ট্রান্সপারেন্সি ইন্টারন্যাশনাল বাংলাদেশের (টিআইবি) ট্রাস্টি বোর্ডের সদস্য ও ২০২০ সাল থেকে মহাসচিব হিসেবে দায়িত্ব পালন করছেন। বর্তমানে তিনি জাপান ইন্টারন্যাশনাল কো-অপারেশন এজেন্সির (জাইকা) বিভিন্ন প্রকল্পের পরামর্শক হিসেবে কাজ করছেন।