佛家与儒家的思想从本质上说是格格不入的，一个奉行出世哲学，一个主张入世。儒家思想主要有两大基本内容，一是政治的，可以说是统治术；一是关于伦理道德的，可以说是社会学，同时也与政治紧密相关。所以，自西汉以来，皇帝往往独尊儒术，用以统治。因此，儒家学说深深扎根于政治制度，深人统治阶级和民众的心灵，其地位不可动摇。佛教的传播和发展从来都仰仗王权和贵族阶级，佛教中人深知这一点，故不直接与儒家抗衡，而是采取迁回的做法，先将儒家学说捧起来，利用儒家学说为自己服务。遇到与儒家学说相抵悟处也尽量避开，决不伤害儒家。在这种情况下，佛教人士通过对儒家学说的了解，用佛教的观点来解释儒家的理论，试图表现出佛教的特点，并表明佛教与儒家思想并不矛盾。
儒家对于佛教，则先是将其视为道术，与道教并列齐观。在佛教壮大后，则对其指责也越来越多。指责的主要内容自然是关于政治、礼仪、忠孝等方面的问题。
对于世人的指责和误解，东晋名士孙绰就曾作《喻道论》，为佛教的一些理论和行为进行辩驳和解说。例如，佛和佛教到底是怎么回事，它与儒家和道家相比有什么异同；和尚出家是怎么回事，为什么说那不违背孝道，等等。他甚至提出了“周孔即佛，佛即周孔”这样的命题。很明显，孙绰一方面将佛教与儒家排列于同等重要的位置，另一方面，在解释人们所提出的问题时强调了佛教在治心上的优势。
这说明，东晋时的佛教已经有能力与儒教一争高下了。东晋还有一位名士叫作郗超，曾作《奉法要》一文。文中阐述了敬奉佛法的一些要领，如“五戒”、“十善”，等等，引经据典，劝人向善。其中着重谈的是佛家的伦理道德问题，如因果报应等。他还强调指出斋戒悼亡是一种功德，呼吁“忠孝之士，务加勉励”，认为这样做不仅对祖先是功德，即使对活着的亲友乃至一切众生都是有益的，因为这样做可以感发善心，免除罪苦。他把儒家的伦理结合在自己的佛教理论中谈论，显得更有说服力。
一些佛教人士出于传教的目的，在自己的著作中引用儒家的观点，这在当时是很普遍的情况，所以有人以为此时的佛教起到了调和三教的作用。对此，著名学者余嘉锡先生曾经予以驳斥，说:“其兼研老子，特以无为之化，与佛相近，其称引经传，则援儒入墨，资为外获而已，未尝调和三教也。”从佛教徒的本意来说，其看重儒家学说、引用儒家观点，肯定不是为了调和三教，但在客观上多少也起到一些调和三教的作用。
到南北朝时期，佛教与儒教的矛盾日益尖锐，各种辩论不断。而且，由于佛教内部出现腐败，有的甚至干预政治，参与谋反，使统治阶级感到了问题的严重性。于是，儒士上书要求沙汰僧尼以限制佛教，甚至取消佛教的事件也越来越多。
有几场辩论值得注意。
宋时代的僧人慧琳曾经写过一篇《白黑论》。作为佛教信徒，他的这篇文章有讥讽贬低佛教之嫌，所以受到一些佛教徒的批判。这看起来似乎是佛教内部的争论，但实际上与儒家有很密切的关系。在《白黑论》中，作者假设了一位白学先生和一位黑学道士，以问答的形式发表了作者自己的观点，其中有这样的话:“周、孔疑而不辨，释迦辨而不实。”此类话语在佛教徒看来是不可容忍的，但宋文帝看了却非常赞赏:“元嘉中，遂参权要，朝廷大事，皆与议焉。”
《白黑论》既然闹到皇帝那里，可见在当时影响不小。颜延之和宗炳都曾著文批判，认为这违背了佛教的教义、宗旨，大有群起而攻之之势。其实，慧琳也并非完全违背佛教的教义，在很大程度上是肯定了佛教的，其目的也许是想纠正一些佛教内部的偏执。在佛教内部出现不同观点，引起一些争论其实也是正常的，不应该把不同意见完全认定为离经叛道。慧琳之所以引起佛门人士的不满，很重要的原因是对儒家学说的充分肯定。在当时，佛门人士一般都主张二教殊途同归，可是唯有这个慧琳独出心裁，竟然对佛教教理提出批评，显然不能被佛教界所接受。所以说，这争论的焦点还是儒佛长短的问题。
还有一场辩论也很重要，也能够反映出儒佛关系。这就是关于神灭与不灭的辩论。这个争论原本就有，到南齐时范缜写出《神灭论》，对儒佛两家都有极大震动，对佛教界的震动尤其大。正如汤用彤先生所说:“中国佛教向执神明相续以至成佛。若证神明之不相续，则佛教根本倾覆”我们知道，佛教对灵魂有一整套的理论，对人生有一整套的解释，还讲就前生、今世和来生，讲究灵魂的轮回，追求的目标是涅槃 。
而无神论本应是儒家的理论，孔子就从来不谈论鬼神，也不讲究来生。所以，佛家的一套转生轮回观，在儒家看来纯属子虚乌有。范缜的《神灭论》恰恰是以儒家无神论的思想来批驳佛教的根本思想，就不能不引起佛教界的强烈反响。到梁武帝时，则干脆由皇帝出面组织人力批判范缜的《神灭论》，参加批判的竟达64人之多，这是中国思想史上对无神论的一次大围剿。
由以上事例可以看出，佛教与儒家的关系也是很复杂的，佛教前期被视为与道家相类似的道术，与儒教似乎没有任何关系，后来佛教利用儒家观点为自己辩解，直到要求与儒家平起平坐，说明佛教在中国有一个从无到有、从弱到强的过程。
