开明书店1926年8月成立，创办人章锡琛。
章锡琛原在商务印书馆任《妇女杂志》主编，因与商务印书馆办刊宗旨不一致，辞去主编职务。
后在胡愈之、郑振铎以及吴觉农等人的支持下，另编《新女性》月刊，用新女性杂志社名义发行。在新女性杂志社的基础上，章锡琛请胞弟章锡珊合伙经营，于1926年8月1日正式开办开明书店，地址在上海宝山路宝山里60号(即章锡琛的家)，不久又扩展到64号。
1928年，由刘叔琴、杜海生、丰子恺、胡仲持、吴仲盐等人发起，改组为股份有限公司。第二年公司正式成立，杜海生任经理，章锡琛任协理。
杜海生逝世后，章锡琛任经理，范洗人任协理;随着业务发展，其发行所从宝山路迁往望平街(今山东中路)165号，后又迁至福州路中华书局对面，总店(经理室、编译所、总务处、货栈)先后设址宝山路、兆丰路(今高阳路)和梧州路。
八·一三战事爆发，设在梧州路的总店和专为开明书店排印书刊的美成印刷厂全部毁于战火，开明书店损失达80%以上。章锡琛等拟将开明书店迁至汉口，因书籍、纸型被日军劫走，章锡琛只得停业、回沪。留守在上海的章锡琛曾被日军关押10多天。
协理范洗人等于1941年在广西桂林设立开明总办事处，重组董事会，范洗人任总经理。日军进犯桂林，总办事处迁重庆，由叶圣陶主持。抗战胜利后，总办事处迁回上海。
开明书店拥有夏丏尊、叶圣陶、顾均正、唐锡光、赵景深、丰子恺、王伯祥、徐调孚、傅彬然、宋云彬、金仲华、贾祖璋、周予同、郭绍虞、王统照、陈乃乾、周振甫等学者、作家担任编辑工作，形成一支知名的编辑队伍。开明编出的教材切合实际，很受欢迎。开明的出版物注重质量，其内容、编校、纸张、印刷、装订、装帧设计都十分讲究，为读书界所赞誉。开明书店依靠朴实、严谨的开明人，创出了严肃认真出好书的开明风。
创店时只有四五人，随着业务发展，工作人员增加，总公司下分3个处所，1个室，18个部，32个课和委员会。书店创办资金约5000元，改组为股份有限公司后资金为5万元。
经过几次增资后，1936年资金为30万元。1947年增资为法币30亿元。北京的朴社、未名社和上海的大江书铺等先后由开明书店受盘。书店先后在北京、沈阳、南京、汉口、武昌、长沙、广州、杭州、福州、台北等地设立分店17处。
1950年，开明书店实行公私合营，与青年出版社合并成为中国青年出版社。
