行为进化是相当复杂的问题，研究有一定的难度。除了行为本身的特点外，另一原因是化石资料中很少有此类记录。要真正弄清这个问题，依靠现有的知识水平是远远不够的。因而在研究方法上也必然会受到很大限制。对这个问题，古生物学、生理学和心理学的工作者，都在用他们常用的方法进行探索，此处主要介绍行为生物学的研究方法。
行为生物学注意到了各种动物之间的联系与区别。它认为，人类行为的重要特点是通过语言与生产劳动、社会活动等方面融为一体，而这一特点即使在最高等的动物——非人灵长类中都从未有过，因此在没有充分理由的情况下，决不能把人类所具有的动机、情感或悟性加到动物身上。同时，也正如动物不同于人类一样，各类动物彼此也有区别。草履虫的行为不同于蝴蝶，一只鸟和一头牛的差距也是够大的。但是，这只是一个方面。从另一方面说，人类又是从非人祖先进化来的动物，这是一百多年来所进行的研究的科学总结。我们在看到人与其他动物的区别的同时，也不能忽视它们之间的联系。黑猩猩偶尔能够使用天然工具，有人将这种行为与原始人类的简单劳动相比较，并从中引出两者之间具有内在联系的结论。这样分析问题，应当说是并不过份的。事实上，动物在进化层次上离人类愈近，它们的神经和内分泌系统也愈与人类相似；人类的许多行为模式，从许多其他动物中也都能找到原始的形态。因此，注意到人类与其他动物之间、动物中各种类型之间的联系和区别，是研究行为进化的出发点。
在行为生物学中，对行为进化问题的研究主要采用比较的方法。即运用既定状态上行为的比较，通过一定的逻辑推理，反映历史状态上行为的变化。行为进化与其他适应性进化一样，凡属基因所控制的行为，都是自然选择的产物，这是行为比较方法的前提。正如洛伦茨在《行为学的基础》一书中所说，“行为学或行为比较研究是基于这样一个事实：在生物界存在着许多行为机制，它们在系统发育中如器官发生一样是不断进化的。因此，同源的概念不仅适用于形态学的结构，也同样适用于这些机制。”
行为比较研究所遵循的原则，大体有以下几点：
第一，有共同祖先的种群，它们之间应有类似的行为方式。后代总要保留祖先的某些特征。通过近似种类行为方式的比较，可以推出某些行为进化的新结论。
根据上述原则，一些行为学家常常通过对猿类行为的研究推断人类某些行为的起源。
第二，共同性的行为和特殊性的行为相比，一般地说，前者可能起源较早，后者可能产生较晚。
基于同样的理由，一个种群中广为流传的行为，可能更接近其祖先的行为类型。例如，在蝇类求偶行为的进化顺序中，最古老的求偶方式应是目前多数昆虫所共有的。雄性向雌性求偶时，并不带有附加条件（如“礼物”等）。
第三，简单的行为和复杂的行为相比，一般地说，简单的行为可能起源较早（有些由复杂行为简化来的除外）。
例如，某种小蜜蜂（A.florea）在水平面上的舞蹈，仅仅是以它的摇摆跑直接指示食源方向，这与垂直面上作变换方向的蜜蜂舞蹈相比，动作要简单得多。因此，很可能它的舞蹈是一种比较古老的通讯方式。
必须指出，行为生物学家在进行比较研究时，也都结合着观察、演绎和实验等多种方法。这样能使求得的结论更接近真理。
为什么从既定形态的行为比较中可以推出历史形态上行为的变化呢？这是因为生物界的发展是不平衡的。在现存的同类生物中，它们的行为就有简单与复杂、低等与高等之分。在人类中，也有某些地区的某些人群行为相当原始、相当落后的现象。因此，根据现存的行为中许多有价值的材料，把它们组织成简单—复杂、低等—高等的逻辑顺序，最后所推出的与历史上相对应的图案，应当有它的合理性。不过，这方面的结论常常带有思辨的性质，许多假设还没有被证实。
| 
栏目导航：