ولد الشيخ علي محمد نعمان عام 1321ه.. الأخ الأكبر للأستاذ أحمد محمد نعمان وصاحب الأثر الأعمق في تحويل مسار الأستاذ من اقتصاره على تدريس العلوم الفقهية والشرعية إلى شمول العلوم الحديثة وإدخالها في مدرسته التي أنشأها في «الحجرية». تميز طيلة حياته بالكرم والشهامة والنبل والشجاعة والرجولة، حيث كان كريماً دون تظاهر:
ولو لم يكن في كفه غير روحه
لجاد بها فليتق الله سائله
وشجاعاً ذكياً دون تباهٍ، وحكيماً دون تصنع.. فبحكمته وذكائه حال دون نزول عذاب الإمام أحمد بآل نعمان عام 1955م بعد فرار أخيه الأستاذ إلى القاهرة، كالذي أُلحق بهم عام 1944م عند خروج الأستاذ والزبيري إلى عدن؛ إذ أرسل اثنين من أولاده رهينة "إلى أن يعود الآبق" كما وصف أخاه في رسالته للإمام؛ فردهما الإمام إلى أبيهما مبقياً أيضاً على الشيخ علي في عمله عاملاً في حرض..
كان الشيخ علي محمد نعمان جندياً من بين الجنود حماة الحدود الجنوبية عام 1927م من الإنجليز. وعلى رأس أبناء الحجرية الذين شاركوا في الحرب اليمنية السعودية عام 1934م.
تولى -رحمه الله- بعد الحرب اليمنية - السعودية مهام عامل القبيطة، أعجب خلالها بمنهج التعليم الحديث هناك وتعرف على الأستاذ حيدرة وأرسله إلى أخيه الأستاذ ليستفيد من المنهج الحديث في التعليم مما يساعده على تطوير التعليم في مدرسته. كما تعين عاملاً في الوازعية..
وبدخول عام 1944 يكون فرار الزعيمين النعمان والزبيري إلى عدن ثم نزول الشيخ علي ليعيد أخاه من هناك غير أنه لم يفلح في ذلك بما ولَّد الريبة في نفس ولي العهد فتصور تواطؤ الشيخ علي في تهريب أخيه الأستاذ وأنه لم ينزل إلّا ليحضه على البقاء في عدن وليدعمه أمام أبناء الحجرية المقيمين هناك بما له من مكانة في نفوسهم، فاعتقله مع عدد كبير من رجال آل نعمان منهم عمه الشهيد الشيخ عبدالوهاب نعمان وإخوته المشايخ عبدالله ونعمان ونجله الشيخ عبدالرقيب وأبناء عمه المشايخ محمد أحمد نعمان وأمين عبدالواسع نعمان، وعبدالرحمن أحمد نعمان، وأحمد عبدالقادر نعمان، ونعمان عبدالقادر نعمان، وابن أخيه الشيخ محمد عبدالحميد محمد نعمان، وغيرهم كثير من آل الإرياني والأكوع وباشا وصبرة والسياغي والعديد من وجهاء اليمن وأدبائها.
ظل الشيخ علي سجيناً إلى ما قبل قيام ثورة فبراير 1948م التي تعين فيها ضمن الموظفين غير الشورويين أميراً للوائي رداع والبيضاء حسب الميثاق الوطني المقدس..
ونظراً لاحتدام الخلافات بين بعض القبائل التي تقطن الحدود اليمنية - السعودية في بداية الخمسينيات اهتدى الإمام أحمد إلى "السُمَرين" أي الغواص، وهو لقب اشتهر به الشيخ علي -رحمه الله-، اهتدى الإمام إلى توليته على حرض لحل تلك المشاكل.. تمكن "السمرين" من حلها حتى كسب احترام قيادتي المملكتين العربية السعودية والمتوكلية اليمنية، لما اتسم به من حكمة واقتدار على حل الأمور المعقدة.. متعاوناً على حلها مع أمير نجران محمد السديري.
عرف نسيجاً وحده بمزجه بين الإداري القبلي والمثقف المتمدن.. ففي مفكرة حاوية للمراسلات الإمامية بين الإمام الناصر أحمد حميد الدين والشيخ الجمالي علي محمد نعمان والأستاذ والشيخ العلامة محمد البيحاني والنائب الكريم عبدالملك المتوكل المتعلقة بمراجعاتهم للعفو عن الأستاذ وزملائه المساجين الأحرار، مدونة بخط الشيخ علي محمد نعمان يُكتشف في مراجعات الشيخ علي للإمام أحمد البلاغة والأدب الجم والأسلوب الرفيع الذي تميز به الشيخ علي في تخاطبه مع الملك بطلب غير متذلل؛ وأيضاً خطاب الإمام ولطيف جوابه، كونه يعلم من يخاطب وعمن يخاطب، وأن المُخاطَب أهلٌ لذاك الخطاب الحسن وجوابه -أي المُخاطِب- الذي يعزز أهليته لأي موقع يُختار له.
لكأنهما، الإمام أحمد والشيخ علي، ببليغ تخاطبهما قد اتفقا على "الحكمة النادرة من منثور الحكم" المسجلة في مقدمة المفكرة المخطوطة بيد الشيخ علي أساساً في تعاملهما.. كما اتخذها الشيخ علي ديدناً له.. وهي:
"استشعروا السلامة للناس والبسوا لهم اللين والقوهم بالبشاشة وعاشروهم بالتودد وتفضلوا عليهم بحسن الاستماع وإن كان ما يأتوكم به نزراً فإن لكل امرئ عند نفسه قدراً فالقوهم بما يستنبطون به إليكم وخرجوا عقولكم بأدب كل زمان واجروا مع أهله على مناهجهم نقل مساويكم وتسلم لكم أعراضكم وضعوا عنكم موثر الخلاف واللجاجة في المنازعة فربما ورثت الشحناء ونقضت هرم المودة والإخاء، فليكن المرء مقبلاً على شأنه راضياً عن زمانه سليماً لأهل دهره جارياً على عادة عصره ولا يباينهم بالعزلة فيمقتوه ولا يجاهرهم بالمخالفة فيعادوه، فإن موافقة الناس رشاد ومخالفته ضلال وعناد، وإدمان الخلاف من أسباب الإتلاف".
انفتح الشيخ علي من بداية نموه الفكري على مختلف منابع الثقافة على عكس أخيه الأستاذ الذي بدأ منغلقاً، فكان أسبق إلى مناقشة مظاهر وأساليب الحكم المتأخر عن ركب الحضارة. إلاّ أنه كان أكثر مرونة في التعاطي مع الواقع القائم أو أكثر حلماً في التعامل مع شخوصه.
وعاش الشيخ الجمالي بمحبة الناس، وخلقه النبيل وأدبه الجم وعظمة شخصيته الكريمة، لكونه أكثر اتصالاً بالجمهور -عامتهم وخاصتهم- بحكم عمله وطبيعته وتكوينه.
ولما كان من بدايته ناقداً واعياً لأسلوب الإدارة الإمامية لمناطق الجنوب وظلم الرعية دون ضجيج أو بلبلة -كما ذكر ذلك أخوه الأستاذ أحمد محمد نعمان في مقاله المنشور في صحيفة "فتاة الجزيرة" العدد 2169 تاريخ 14 فبراير 1963م-فقد استشهد مدافعاً عن النظام الجمهوري حافظاً له من موقعه في 4 فبراير 1963م - 10 رمضان 1382ه قبيل أذان المغرب إثر انفجار لغم في منطقة حرض حيث كان يتفقد الجنود المدافعين عن الثورة ونظامها الجمهوري.