שמו המלא היה "גדוד העבודה וההגנה על שם יוסף טרומפלדור", אך מטעמי מחתרת וחששות מהשלטונות הבריטיים, הושמטה המלה: ו"ההגנה".
בין מייסדי הגדוד היו תלמידיו וחבריו של טרומפלדור, שהגיעו לארץ-ישראל, וכן מאנשי העליה השניה והשלישית. מגמתם היתה: עבודה והגנה, התישבות שיתופית, בניין הארץ על-ידי הקמת קומונה כללית של הפועלים בארץ-ישראל. כארבעים פלוגות בכפר ובעיר היוו איגוד שיתופי, קומונה אחת עם קופה כללית. החברים עבדו בייבוש ביצות, בסלילת כבישים, בעבודות ציבוריות שונות של הצבא הבריטי, של ההסתדרות הציונית ועוד.
ב-1921 הצטרף אל "גדוד העבודה" משק כפר-גלעדי, אשר הוקם מחדש לאחר שנעזב לאחר קרב תל-חי. הגדוד הקים את קיבוץ עין-חרוד (22.9.1921) ואת קיבוץ תל יוסף (14.12.1921) לאחר מכן הקימה פלוגת הגדוד בירושלים את רמת רחל. לימים פרצו חילוקי דעות פוליטיים ורעיוניים, ומחלוקת בשאלת היחס בין הישובים החקלאיים לכלל "גדוד העבודה" ולהנהגתה המרכזית הארצית. לקראת מערכת הבחירות לוועידת-ההסתדרות השניה בשנת 1922, הופיע הגדוד ברשימה נפרדת ודרש כי ההסתדרות תסתלק מהקמת מושבי עובדים, וכן שתשקוד על השוואה כללית של שכר העבודה בכל מפעלי ההסתדרות, וכו'. גם המצב החברתי הפנימי בגדוד נתערער והלך בעקבות המשבר הכלכלי וחל פילוג (1923) במשקי עין-חרוד – תל-יוסף.
105 חברים שדגלו ב"קבוצה הגדולה", אשר שימשה גרעין לארגון חדש – "הקיבוץ המאוחד", ו-225 מנאמני הגדוד נשארו בתל-יוסף. בגדוד העבודה כולו, שבשנות קיומו (1930-1920) היו בו ועבדו במסגרתו 3000 איש, נשארו בעת הפילוג 432 חברים בלבד. בימי העליה הרביעית, שהחלה בשנת 1924, חלה ב"גדוד העבודה" התערערות האמונה בהגשמת הציונות, חדרה כפירה אנטי-ציונית והתארגנה בו קבוצה שמאלנית קיצונית. בדצמבר 1926 החליט הימין שבגדוד להוציא את חברי המפלגה הקומוניסטית והגרורים וקמו שני גדודים.
ב-1927 התפורר הגדוד השמאלני וחלק מחבריו יצא לברית-המועצות. ב"טיהורים" הגדולים הקטלניים ברוסיה נעלמו עקבותיהם של אנשי הגדוד השמאלניים. בסוף 1929 התאחדו שלוש פלוגות הגדוד במשקי תל-יוסף, כפר-גלעדי – תל-חי ורמת-רחל עם "הקיבוץ המאוחד".
