毕业回国后，1916年他在沪上开设诊所，开始采用中西结合的方式为病人治病，在实践中，逐渐发现两种医学体系，结合起来相当困难。
一年之后，也就是1917年的时候，余云岫出版了著名的中医黑《灵素商兑》一书，在里面以当时西方医学知识为基础，开始对中医经典《黄帝内经》中的诸多专题进行详细的批判。
包括了阴阳五行，五脏六腑，脏腑生理，十二经脉，经脉经络，望闻问切，病原，病变之类。
他提出中医起源巫术，将中医与巫术等量齐观，认为干支时节，色味，经络脏腑等观念纯属幻想，不足以成为精确学术的基础，对医学中的阴阳五行理论进行了深刻的批驳。
并以西方解剖学和生理学的观点，来印证《黄帝内经》里的理论不过是穿凿附会，荒唐无稽，指出这本书不过是门外汉的想象之语。
然后在这本书中第次提出废医存药的观点痛批中医，甚至说出：
“不歼《黄帝内经》，无以绝其祸根”
“中医是杀人的祸首”
“如不消灭中医，不但妨碍民族的繁荣，民生的改良，而且不利于国际地位的迁善。”
言辞激烈，可见其对中医恨之入骨。
这本书一出现在医学界引起了巨大反响，有人称赞他敢于直面中医问题，也有人指责他否定传统中医文化。
当时著名中医学家恽铁樵，在其著作《群经见智录》中专门撰文批判了余云岫的观点。
王玉川教授的老师，陆渊雷也不甘示弱，在报纸上与其针锋相对。
这一次，余云岫开始在反中医战线上崭露头角。
这事儿因为他影响力不够，宣告破产。
随后他又像是转了性子。
1925年，余云岫受邀参加远东热带病学会议。
在会上，他以实际案例证明中医在某些疾病的诊断和治疗方面具有独特优势。
指出，唐代医书《崔氏别录》中关于瘰疬与肺痨的记载，比西方医学早了一千多年，这一观点引起了与会专家的极大兴趣。
这时候他像是重新认可的中医。
但是在同年，中国教育界先后在长沙、太原召开会议，通过了相关议案，决定将中医纳入学校体制中。