1906年，18岁的王云五受聘为上海中国公学英文老师。而此时的他甚或连一张小学文凭都没有。
　　
　　原来王云五系自学成才。刚读了两年书，带他一起去上海的父亲让王云五到五金店做学徒，之后王云五又做洋行仓库助理。可酷爱读书的他一直坚持在各种夜校、补习班及参与函授学习。他还大量阅读了各类英文版西学名著。尤其被中国公学聘用后，王云五竟然只用3年时间，便读完整部共35巨册的《大英百科全书》。
　　
　　执教中国公学，王云五发现有一名学生学习特别勤奋，成绩也非常好，这名学生就是胡适。1908年9月，因不满校方压制学生的民主权利，大多数学生愤而离去，到一所新建的公学，胡适也去了。尽管胡适已离开了中国公学，但王云五的视线却一直没曾离开过他。
　　
　　新公学只坚持了一年多，因缺少经费不得不解散。王云武知道此时的胡适正处于人生中的一道坎，因为他的妹妹和弟弟相继去世；连续失去亲人，不堪打击的母亲不幸病倒；可谓屋漏偏遭连夜雨，家中又面临破产。
　　
　　这让胡适陷入极大悲痛中，整日萎靡不振，甚或接受朋友的邀请去喝酒玩乐，以此来麻醉自己。“凡诸前此所鄙夷不屑为之事，皆一一为之。”胡适当时曾茫然地说。
　　
　　这一切皆被王云五看在眼里，他劝胡适道：“可以翻译外文小说，赚稿费渡过难关，同时也可积累学识。”还亲自上门劝胡适搬到一个新的地方居住。1910年1月24日，胡适在日记中写道：“云五先生见访……先生询余近况，力劝迁居，实则此间藏垢纳污，万难久处。”
　　
　　见胡适一时很难从悲观颓废中走出来，王云五便四处托人，欲为他谋到一份职业。在王云五的推荐下，胡适终于到华童公学做了一名教师。
　　
　　这一年，在得知选拔留美官费生后，王云五认为这于胡适是千载难逢的机会，劝胡适务必要好好把握。为了不辜负王云五的一片好心，也该为自己的前途着想了，胡适终于开始静心读书，以届时参加考试。王云五见此十分高兴，还特意为胡适补习了3个月数学。胡适一考而中，这成了他人生中的重要转折点。
　　
　　由于王云五精明干练、学问博杂，又会讲英语、国语、粤语和上海话，被临时大总统孙中山指派为自己的秘书。后又被任命为教育部专门司第一科科长，接下来又担任苏粤赣三省禁烟特派员。
　　
　　禁烟特派员职务却让王云五卷入政府与洋商的纠纷，他感到心力交瘁。于是毅然辞职，全心闭门读书。为了生计，此后又成为一家小型书局的主编。
　　
　　这时，商务编译所所长高梦旦到北京，屡次拜访已留美归来任北京大学教授且因新文化运动而名满天下的胡适，力邀胡适接替自己任所长。
　　
　　胡适认为报答恩师的时机到了，决心让处于人生低谷的王云五去任所长。胡适给商务印书馆的理由是，自己只是个书呆子，不善于应付人际关系，王云五则既有学问，也有办事能力，比自己强得多。
　　
　　商务印书馆决策层对此颇感诧异，因为王云五对他们来说是一个并不熟悉的名字，但他们还是选择了相信胡适的眼光。1921年9月16日，王云五正式出任商务印书馆编译所所长。
　　
　　许多人将王云五一生最重要的功绩归纳为“四百万”，“四”是四角号码检字法，“百”是百科全书，“万”是“万有文库”。而这“四百万”就是王云五在担任商务印书馆编译所所长时创建的。而胡适在文学、哲学、史学、考据学、教育学、伦理学、红学等诸多领域都有深入的研究，著述丰厚。
　　
　　友谊是一种心心相印、惺惺相惜的际遇，正是这种际遇，让历史天空中有了一颗颗璀璨星星，也就为人类创下了许多永不磨灭的文化和精神瑰宝。