蒋介石台不久，安徽巡视。在安庆前，他已经了合肥、贵池等，所处，无不受热烈欢迎。蒋安庆前，曾表示安徽视察，并表演讲，但被校长刘文典断拒绝，并称：“不是衙门！”但蒋介石是按计划安视察，他进入校园，处冷冷清清，有预料中的“欢迎仪”的隆重场面，甚至连生碰几。刘文典更是连面不露，是派了几人接待。蒋介石中极不快，但即便此，他是强撑着视察完安。
据说，蒋介石安视察前，省政府通知刘文典安排生夹欢迎“北伐名将”蒋主席。刘文典正在打麻将，完通知直接扔进痰盂，继续他的牌局，并说：“我手中‘将’，稀罕他那‘将’？”
1928年，安徽生潮，蒋介石召见刘文典问话。见面，刘称蒋“先生”不称“主席”，蒋非常不满。蒋刘在潮中闹的共产党员名单，并严惩罢课的生。刘说：“我不知谁是共产党。你是总司令，就应该带你的兵。我是校长，校的由我管。”说着，二人火气了，相互拍桌骂，蒋骂刘“你是阀”，刘则骂蒋“你是新军阀”。蒋介石恼羞怒，场打了刘文典两记耳光，并给他定了“治不严”的罪名，他关进了监狱。有说法称，刘文典在蒋介石打其耳光，不甘示弱，一脚飞踹向蒋介石的肚子。
刘文典见蒋介石前曾扬言：“我刘叔雅并非贩夫走卒，即是高官不应我呼，挥手！我师承章太炎、刘师培、陈独秀，早年参加同盟，曾任孙中山秘书，声讨袁世凯，革命有功。蒋介石一介武夫耳！其奈我何！”
场争论有几版本：
刘兆吉在《刘文典先生遗闻轶数则》记载：刘文典“因有怨气，见蒋，戴礼帽着长衫，昂首阔步，跟随侍从飘直达蒋介石办公室。见蒋介石面带怒容，既不座，不让座，冲口即问：你是刘文典吗？刘文典正火加油。冲口：‘字叔雅，文典是父母长辈叫的，不是随便哪人叫的。’更激怒了蒋介石，蒋一拍桌子，怒吼：‘无耻文人！你怂恿共党分子闹，该何罪？’刘文典应声反驳蒋介石所言不实词，并声呼喊：‘宁义死！不苟幸生！’躬身向蒋碰，早被侍卫挡住。蒋介石又吼：‘疯子！疯子！押！’”
1928年12月3日，《申报》登载《蒋主席严斥安生捣乱女中》一文，文中描述刘、蒋冲突：
等坐定，蒋介石先问程勉：“女中被毁，你有何求？”程勉回答：“求保障校安宁，生安，其他的就不计较了。”
蒋介石转问刘文典：“你打算何处理肇的生？”刘文典并不理，兀冷冷回答：“此内容复杂，尚有黑幕，在情尚未调查清楚前，我不严惩肇生。”
刘文典副态度，蒋介石气“腾”站身，拍着桌子，勃怒：“教不严，师惰，生夜毁女校，破坏北伐秩序，是你新阀横行，不你撤职查办，不总理在灵！”
刘文典毫不含糊，“嗖”站了，与直面相，语调依是不紧不慢、从容不迫：“提总理，我他在东京闹革命，不晓你的名字呢。青年生虽说风华正茂，但不等理熟，些微细，不题目做文章。果说我是新阀的话，那你就一定是新军阀！”
任国民党安徽省党部指导委员秘书石慧庐记录：
蒋介石盛怒，骂安生代表，骂了又坐，稍停一，站又骂，训了生一顿，转便责备两校的校长。女师校长程勉，是安徽教育界老辈程筱苏的儿子，他坐在那恭听责备，一言不。蒋又转向安校长刘叔雅加责难，说他生管教无方。叔雅蒋话间生冲突，在座的色变。蒋指着刘怒斥：“你子，简直像土豪劣绅！”刘声反骂：“你子，简直就是一新军阀！”蒋立火气冲，声喊叫：“我不枪毙你！”此刘站一跺脚：“你就不敢！凭什！”蒋吼：“人，他扣押！”立即冲进两卫兵，刘拖。
有一版本高伯雨的《刘文典与蒋介石》：“刘先生入室，不帽子，昂坐，不向主席行礼致敬。老蒋见了已不高兴，又见他打烟盒拿一根香烟，擦着火柴猛抽。就斥他人师表，又是国立校长，此无礼，刘先生顾仰喷烟圈，极鄙夷的态度，哼了一声。蒋介石怒，立即令扣留查办，消息传，教育界哗。”
但是，根据刘文典本人的叙述，蒋介石并有动手打他，他说：“我一生除被一位老尚打，有谁敢打我，蒋介石虽我关进了牢房，并不敢动手打我。”
刘文典被羁押，安庆的生举行示威游行，高呼“保障人权”，求释放刘文典。听说刘文典被蒋关押，刘夫人张秋华赶安庆，痛斥政府昏聩：“叔雅安徽，我反，不他。安徽的教育不是者办的，是政客办的，所现在吃亏了。”一月，在蔡元培、胡适、蒋梦麟等人的方营救，经陈立夫从中斡旋，蒋介石释放了刘文典，但求他“即日离皖”。
1928年12月5日，刘文典被释放。据说，人打关押刘文典的乐轩的楼门，恳请刘文典楼，刘死活不肯：“我刘文典岂是说关就关、说放就放的！请我，请先我清白！”人哭笑不，言相劝，刘文典才罢休。
刘文典的老师章太炎听说此，特病中联相赠，将刘比敢顶撞权贵的“祢衡”，称赞弟子的气节，联云：“养生未羡嵇中散，疾恶真推祢正平。”
刘文典告诉冯友兰，被蒋介石囚禁，他已经做了杀身仁的理准备，“我若祢正平，惜安庆有鹦鹉洲。我若谢康乐，惜我有胡子。”
1931年12月11日，鲁迅佩韦笔名，在《十字街头》一期表《知难行难》一文说：“安徽校长刘文典教授，因不称‘主席’关了，容易才保外。”鲁迅文中不忘讽刺胡适：“老同乡，旧同，博士是知的，所‘我称他主席！’”
实际，胡适在营救友刘文典不遗余力，亦撰文抨击国民党的专制独裁说：“又安徽的一校长，因语言顶撞了蒋主席，遂被拘禁了少。他的人朋友处奔走求情，决不任何法院控告蒋主席。求情不控诉，是人治，不是法治。”
刘文典获释，因蒋命其“即日离皖”，他离安徽。刘文典初接受安徽省政府的邀请回办，原本一重振安徽教育，此，他内极沉痛：“次回，在祖父坟掘了一坑，害的子弟，人身败名裂不足惜，公被我误尽了。”离安，他特意留函劝诫全校师生，“安向，努力教务”。