כבר בגיל 17 החל לפרסם מאמרים בעיתונים "המליץ" ו"הצופה". בגיל 21 עבר לגליציה, שם לימד וניהל בתי הספר העבריים "שפה ברורה" בבז'ז'ני (1906) ובטרנוב (1909), ונבחר כמנהל הלשכה הפדגוגית של הסתדרות המורים העבריים באוסטריה עד לשנת 1914. שרפשטיין המשיך לפרסם מאמרים בשבועון "המצפה", שיצא בקרקוב.
בשנת 1926 ביקר בארץ ישראל ופקד את הילולת רבי שמעון בר יוחאי. במכתב לאשתו, כתב דברי ביקורת על מה שבעיניו היו אמונות תפלות ותפילות והשתטחויות נלהבות עד כדי אקסטזה של נשים וגברים[2].
בניו-יורק ייסד שרפשטיין את הוצאת "שילה", שיוחדה לספרי לימוד. על הישגיו זכה בתואר דוקטור לשם כבוד מבית המדרש לרבנים והמדרשה ללימודי יהדות בשיקגו. היה יושב ראש ועד התעודות למורים ולמנהלים עברים מטעם ועד החינוך הניו-יורקי, וערך את ביטאון מועצת המחנכים באמריקה "שבילי החינוך".
שרפשטיין זכה במספר פרסים, עבור האוטוביוגרפיה "היה אביב בארץ" זכה ב"פרס לואיס למד" בארצות הברית, עבור "גדולי חינוך בעמנו", זכה ב"פרס קסל" ממקסיקו.
משנת 1950 כיהן כנשיא כבוד של "מסד" (אנ') - המחנות העבריים. משנת 1952 כיהן כנשיא אגודת פא"ן העברי.
מה הוא ביליק?: חרקטריסתיקה, לבוב: סאלאט, תרס"ט 1909. (מסה)
שפתנו: ספר למוד השפה העברית על פי השטה הטבעית, רפאל סופרמן, וצבי שרפשטיין, פשמישל: השרון, תר"ע 1910
מנדלי מוכר ספרים: חרקטריסטיקה, פשמישל (גליציה): אמקרוט ופריינד, תר"ע 1910
אליהו הנביא: קבץ אגדות, ורשה: ספרות, תרע"ב 1912
ספר התלמיד, ניו יורק: לשכת החנוך העברי, 13 כרכים, תרע"ג-תרע"ט 1913–1919
כתב ולשון: שעורים בכתיבה ובדקדוק מעשי, ניו יורק: שילה, 1917
היסטוריה לילדים, ניו יורק: שילה, תרע"ו-תרע"ח 1917
בן ישראל, ניו יורק: שילה, 1918-1919
הבית העברי, ניו יארק: ההסתדרות העברית באמריקה, תרע"ט 1919
קריאה מובנת, ניו יורק: שילה, תר"פ 1920
משלוח מנות: חזיון לילדים בשלש מערכות, ניו יורק: שילה, תר"פ 1920
מראשית: מקרא לילדים לאחר אלף בית, ניו יורק: שילה, תר"פ 1920
מעשיות לתינוקות: קבץ ספורים ואגדות, ניו יורק: שילה, תר"פ 1920
אמנים עברים: תולדותיהם ויצירותיהם, ניו יורק: שילה, תר"פ 1920
הוראת הלשון העברית, ניו יורק: הוצ’ בית המדרש למורים, 1924
שער הלשון: עברית למתחילים על פי השיטה הטבעית, ניו יורק: שילה, תר"פ 1927
אוצרי: ספריה לילדים, ניו יורק: לשכת החנוך העברי, 1927
ספר השנה ליהודי אמריקה, יחד עם מנחם ריבולוב, ניו יורק: ההסתדרות העברית באמריקה, תרצ"א-תש"ט 1931
ספר המלים והתרגילים לספר המכין למקרא, אמסטרדם: א. מוזס אזן 1932
מעשה בתינוקות שאבדו: ספור, ניו יורק: שילה, תרצ"ג 1933.
דקדוק על פי תרגילים, ניו יורק: שילה, 1934
דרכי למוד התנ"ך, [ניו יורק]: בית המדרש למורים, מיסודו של בית המדרש לרבנים באמריקה וההסתדרות העברית באמריקה, (1934
ספר הסיום, ניו יורק: חמו"ל, 1937
מלות היסוד בלשוננו, ניו-יורק: [חמו"ל], תרצ"ח 1938
עמנו: ספר מקרא לשנת הלימוד השלישית או הרביעית. ניו-יורק: שילה, 1941.
פרוזדור לתורה: ספורים, אגדות ומשלים המכילים רב המלים המצויות בספר בראשית, נויורק: שילה, 194-?
מקורות חיי: היה אביב בארץ, הוצאת מסדה, 1942.
ספר הבטויים: כולל ניבים ומליצות ומלים נרדפות <עם מפתח אנגלי> לשפור הסגנון בחבור ובדבור, ניו יורק: שילה, 1944.
מלון שילה עברי אנגלי: כולל יותר מעשרת אלפים מלים ובטויים מלשון המקרא, המשנה, המדרש והספרות העברית החדשה, יחד עם שושנה שרפשטיין, ניו יורק: שילה, 1957.
תולדות החנוך בישראל בדורות האחרונים, 3 כרכים, ניו יורק: עוגן, תש"ה–תש"ט:[5]
א: "באירופה משנת 1789 עד 1914", תש"ה.
ב: "בארצות הקדם וים התיכון ובארצות התרבות האנגלית", תש"ז.
ג: "בין שתי מלחמות העולם", תש"ט.
תולדות החנוך בישראל בדורות האחרונים, מהדורה ב מתוקנת ומשוכללת, 5 כרכים, ירושלים: ר’ מס, תש"ך–תשכ"ו:
א: "באירופה משנת 1789 עד 1914", תש"ך.
ב: "ברוסיה, פולין וארצות מזרח אירופה, ארצות בלקן, אמריקה הדרומית ועוד – במאה העשרים" תש"ך.
ג: "בארצות הברית, קאנאדה, אנגליה, דרום אפריקה, אוסטרליה, זילנד החדשה", תשכ"ב.
ד: "תולדות החינוך העברי בארץ ישראל: מראשית היישוב החדש עד תקומת המדינה", תשכ"ה 1964.
ה: "בארצות הים התיכון, הבלקאנים והמזרח", תשכ"ו.
אוצר המלים והניבים: לכסיקון של מלים נרדפות וקרובות משמעות, בצירוף ניבים ובטויים, משלים ומליצות, מלוקטים מכל מקורות הספרות העתיקה והחדשה עם מפתח מפורט, תל אביב: מ' ניומן, תשי"ד-1954[6]
חנוך וקיום: מסות ומחקרים, ניו יורק: שילה, תשי"ז 1957
גדולי חינוך בעמנו: דמותם ופעלם מימי המהר"ל מפראג עד זמננו, ירושלים: ר’ מס, תשכ"ד 1964.[7]
זיכרונות:
ארבעים שנה באמריקה, תל אביב: מסדה, תשט"ז 1956
דונוביץ עיר מולדתי; בצירוף דברי זכרונות מאת שלמה רוזן, ניו יורק – תל אביב: חברת העזרה של בני דונוביץ (פודוליה) באמריקה, תשי"ז.
ספר המועדים: מקרא לילדים, ברוקלין ניו יורק: שילה, 1928.
מקרא ענג: ספרי מקרא לילדים, ניו יורק: חמו"ל, תר"ץ
סדור שילה: סדור תפילה לכל השנה - לבתי כנסיות ולבתי ספר, בהוצאת שילה (פובלישינג האוס), 1932.
החנוך והתרבות העברית באירופה בין שתי מלחמות העולם, ניו יורק: עוגן, תשי"ז.
הלל בבלי, שמואל ברנהולץ (עורכים), ספר היובל לכבוד צבי שארפשטיין: למלאת לו שבעים שנה, ניו יורק: המועצה הארצית למען החנוך היהודי באמריקה, תשט"ו.
זבולון רביד (עורך), ספר שרפשטיין: מאסף לדברי חינוך, מחקר וספרות יפה, מוגש לפרופיסור צבי שרפשטיין למלאת לו שמונים וחמש שנים, תל אביב: ועד היובל בניו יורק והסתדרות המורים בישראל, תש"ל.
ל. קופרשטיין,עולמו של פרופ' צבי שרפשטיין, בשיחה עם פרופ' בן-עמי שרפשטיין, עם וספרנא - נב, ברית עברית עולמית, תשל"ד 1974, עמ' 30 - 34
ביבליוגרפיה של פרסומיו:
עקיבא בן עזרא, 'הביבליוגרפיה של צבי שרפשטיין', בתוך: ספר שרפשטיין (תש"ל), עמ' 25–67.