舒同出生于江西省东乡县孝冈镇，5岁即开始临习颜真卿、柳公权的碑帖，由于幼年家贫，只能用笋衣做笔，用染坊废水在芭蕉叶上习字。读了七年私塾后1921年以漂亮的书法考入江西省立第三师范。

在校期间，他和同学组织“马克思主义研究会”，1926年加入中国共产党，成为中共东乡县委书记。第一次国共合作期间担任国民党东乡县党部常委，1927年四一二事变后，被通缉，流亡武汉、上海、安徽、南京等地，1930年到达苏区参加红军，历任红4军政治部宣传部部长、红1军团政治部宣传部部长等职务，参加长征，到达陕北后任红4师政治部主任。

抗日战争期间，历任八路军总部秘书长、晋察冀军区政治部主任、中央军委总政治部秘书长兼宣传部长、中共山东分局委员兼秘书长等职务。

解放战争时期，历任新四军暨山东军区政治部主任、华东军区暨第三野战军政治部主任、中共华东局常委兼社会部部长、国军工作部部长等职务。

中华人民共和国成立后，历任中共华东局常委兼宣传部长、华东军政委员会委员、华东文教委员会主任、华东人民革命大学校长、中共华东局党校校长等职务。并被授权组建和担任“特殊情况下的台湾省委第一书记”。

1954年，担任山东省委第一书记兼济南军区第一政委、党委第一书记。1958年-1959年期间，由于山东省虚报、浮夸严重，由他的老上级朱德亲自出面到山东将他撤职降级。是三年大饥饿时期，治下饿死人最多的五个地方最高长官之一。1960年被任命为章丘县县委书记，1963年任命为陕西省委书记处书记（比副书记级别还要低）。

文化大革命期间，长期被监禁、批斗，经毛泽东推荐由他书写的中国农业展览馆的匾额也被砸烂。1978年被平反，任命为中国军事科学院副院长兼军委军战史编辑室主任。1988年被授予一级红星功勋荣誉章。

舒同一生勤于钻研书法，即使长征途中，在马背上也用手指在腿上练字，曾被毛泽东称为“马背书法家”。他创造了“舒体字”，他自称自己的书法是“七分半”，即采纳楷书、草书、隶书、篆书、草书、颜体、柳体各一分，何绍基书法半分，综合而成。毛泽东称他是“党内一支笔，红军书法家”，何香凝评价说：“国共有两支笔，国民党有于右任，共产党有舒同。”

1980年，舒同发起成立中国书法家协会，并被推选为第一届主席，以后又担任第二届和第三届的名誉主席。

舒同一生不办个人展览，不出书法集，不收弟子。但他的书法作品有求必应，他在济南疗养期间，由于许多人知道去求字，包括官员、文人、农民、司机、服务员、和尚等，几乎研墨都供不及，许多人甚至自己带研好的墨去求字。