באפריל 1924 הקימה קבוצה של פועלים חיפאיים (יוצאי ארגון אוסטרי מוינה בשם asko , קבוצת כדורגל בחיפה תחת השם "הפועל". הקבוצה הצטרפה למועדון "מכבי חיפה", אך פרשה ממנו באוגוסט 1925.
ב-15 במאי 1926 התכנסה בתל אביב מועצת היסוד של הפועל והוקמה מסגרת ארצית לארגון מרכז הפועל.
קבוצות הפועל ,שהיו שותפות לארגון ספורט ארצי ,הארגון כלל בתוכו קבוצות מהפועל וקבוצות ממכבי יחדיו.
על פי דרישתו של יו"ר ההסתדרות דאז ,מר דוד בן גוריון ,פרשה הפועל ממרכז הספורט הארצי והקימה ארגון ספורט עצמאי לפועלי ארץ ישראל.
סמל הארגון מציג ספורטאי בתוך מגל ופטיש, סמלי הסוציאליזם, בצבע אדום.
סיסמת האירגון שנקבעה הינה: "ספורט מאלפים לאלופים".
ב-1927 הצטרף "הפועל" ל"אינטרנציונל" (ההתאגדות הבינלאומית) של איגודי ספורט הפועלים. עד סוף העשור כבר פעלו מספר קבוצות הפועל בארץ ישראל. קבוצות ספורט אשר היו בעלות זיקה סוציאליסטית הצטרפו ל"הפועל" ולא ל"מכבי" שנחשבה בעלת אופי "בורגני".
בשנות השלושים ,חל גידול משמעותי במספר סניפי הפועל שהגיע לעשרות, מספר חברי הארגון שעבר את ה-10,000.
בתקופה זו,נרשמו מספר השתתפויות של קבוצות הפועל ,בתחרויות בעולם. באותו זמן הפועל שימשה גם ככיסוי לקיומה של מסגרת הכשרה צבאית לנוער, פלוגות הפועל, כדוגמת הפלי"ם.
אחת הפעולות הייתה ,ניסיון לפעולה מחתרתית בסוריה ,של חברי הפלוגה הימית באונייה "לביא-ים". הפעולה נכשלה בהעלמותה של הספינה על אנשיה.
בשנת 1934 זכתה הפועל תל אביב באליפות המדינה בכדורגל .זהו התואר המשמעותי הראשון שבו זוכה קבוצה המסונפת למרכז הפועל.
בשנת 1951 נחתם הסדר עם מכבי ישראל המסדיר את היחסים בנוגע לפעילויות ספורט.
ב-1972 במהלך המשחקים האולימפים במינכן נרצחו אחד עשר ספורטאי המשלחת האולימפית הישראלית, מתוכם תשעה ספורטאים ושופטים נציגי קבוצות מרכז הפועל.
שמותיהם של י"א חללי מינכן הם:
החל משנות השמונים עמדו סניפי הפועל וספורטאיה בפסגת הספורט בישראל (למעלה מ-200 תארים בענפי הספורט השונים,)
15 כינוסי הפועל התקיימו בישראל, הראשון התקיים ב-1928 והאחרון ב-1995 .בכינוסים אלה השתתפו ספורטאים רבים מרחבי העולם.
ספורטאי הפועל השתתפו באולימפיאדות הקיץ החל מאוליפיאדת הלסינקי פינלנד בשנת 1952.
ב-1992 זכה הג'ודוקא אורן סמדג'ה ממועדון הג'ודו הפועל ב"ש במדליית ארד באולימפיאדת ברצלונה. ב-1996 באולימפיאדת אטלנטה ,זכה גל פרידמן מהפועל מכמורת במקום השלישי בגלשני מיסטרל, בשנת 2000 באולימפיאדת סידני הגיע מיכאל קלגנוב מהפועל טבריה למקום השלישי ב- 500 מטר יחידים בקייאקים. ב-2004 באולימפיאדת אתונה זכה גל פרידמן מהפועל במכמורת מדליית זהב בגלשני מיסטרל. אריק זאבי זכה במדליית ארד בג'ודו במשקל 100 ק"ג ומעלה. ב- 2008 באולימפיאדת בייג'ין זכה שחר צוברי מהפועל אילת במדליית ארד בגלשני רוח מסוג ניל פרייד.
בשנת 2004 זכתה קבוצת הפועל ירושלים בכדורסל בגביע יול"ב האירופאי, והייתה לקבוצת הכדורסל הישראלית השנייה לאחר מכבי תל אביב אשר זוכה בגביע אירופי.
בשנת 2007 הוקמה לראשונה בישראל קבוצת כדורגל השייכת לאוהדיה, הפועל קטמון ירושלים. באותה שנה ,הוקמה קבוצת הפועל אוסישקין תל אביב בכדורסל.