Dans l’histoire évolutive humaine, à partir de la fin du Paléolithique, des changements morphologiques, physiologiques et comportementaux particuliers apparaissent et se généralisent progressivement à toute la population humaine jusqu’au Néolithique. Ces changement sont une réduction de la taille du corps, de la taille de la mâchoire et des dents et du dimorphisme sexuelle, une féminisation cranio-faciale, dépigmentation, réduction du niveaux d’androgène néonatale et de testostérone, augmentation du niveau de sérotonine et d’ocytocine cérébraux. Ils sont associés à des modifications comportementales : coopération, réduction de l'agressivité intraspécifique, comportement prosocial. Ces changements ont été définis comme caractérisant l’anatomie de l’Homme Moderne

Pour certains anthropologues et évolutionnistes, notamment Darwin, ces modifications morphologiques ressemblent étroitement à celles du syndrome de domestication. La domestication est définis comme le processus de sélection intentionnelle de traits physiologiques d'intérêt humain (esthétique, domptabilité, rentabilité) réalisée sur une espèce sauvage, généralement commensal à l’homme. Ce processus de sélection aurait fait apparaître, indirectement, un nombre de traits morphologiques, physiologiques et comportementaux sur une majorité d’espèces domestiquées, par rapport à leur homologue sauvage. Ces similitudes ont été regroupées sous le terme de syndrome de domestication. Quelques uns de ces traits sont : la réduction de la taille des dents, du dimorphisme sexuel, de la capacité crânienne et la dépigmentation de certaines partie du corps, des modifications physiologiques associé à la baisse de l’agressivité (baisse de l’activité de l’axe hypothalamo-hypophyso-surrénalien aux niveaux physiologique et génétique), augmentation de la docilité, augmentation de la densité de récepteur corticaux à la sérotonine.
Cette analogie entre l’évolution humaine et le syndrome de domestication, associés aux de tolérance et de comportement coopératif intra-groupe observés chez l'homme, ont mené au XXéme siècle à la formulation de “l’hypothèse d'auto-domestication humaine” (HSD). aaa. Il émerge alors de nombreuses théories tentant d’en formuler les mécanismes sous-jacents communs. Quels sont les points communs qui pourrait expliquer ces modifications parallèles chez l’humain et les espèces qui a lui même domestiquées ?

Comme l’explique Leach (2003), dès le début 1900, le scientifique Boas propose le changement du régime alimentaire comme facteur commun. La cuisson rend les aliments plus faciles à manger et la plasticité de la mâchoire étant liée à la mastication, elle aurait entraînée ces modifications crâniennes, dont la réduction de la taille des dents. Mais pour Zeder, qui commente cette même revue, le partage des aliments entre l’humain et les espèces domestiquées n’est pas avéré et les changements (cranio-faciaux, dentaires) chez le porc et chien ont déjà été liés de manière convaincante à la juvénilisation du comportement et à l'apparition précoce de la maturité sexuelle. Pour Zeder, faire le lien entre domestication et sédentarité nie des processus de transformation évolutif dans l'histoire de l'humanité.

Mais pour Leach l’effet niche artificielle de l’humain sur l’humain devrait être plus affirmé. Notamment car il a été observé l’expression de ce syndrome chez des organismes qui n’ont pas subi de sélection dirigée comme la souris et le moineau. Seul le partage de la même niche “artificielle” créée par le mode de vie de l’humain moderne, un logement, une protection contre les prédateur et l’accès à une nourriture cuisinée permettrait l’expression du syndrome de domestication. Il apparaît évident que ce mode de vie induit, de manière indirecte, un relâchement des pressions de sélection naturelle sur les espèces qui le partagent et à l’expression possible de caractère différent des homologues sauvages. Mais pour Melinda Zeder, résumer l’apparition de ce syndrome comme étant la résultante indirecte de la sélection, c’est occulter les effets de la domestication intentionnelle.

De nombreux anthropologues voient plutôt l’origine de ces modifications morphologiques chez l’humain, comme la conséquence d’une sélection des individus par la coopération de groupe permise par le langage complexe (Wrangham, 2019). L'agressivité ne représenterait plus un avantage face à des humains coopératifs pour leur survie. Les bonobos femelles s’associent entre elles par exemple pour exclure les mâles trop agressif (Wrangham, 2019). Par ailleurs, cette coopération pourrait expliquer indirectement la diminution du dimorphisme sexuel : chez les mammifères, la baisse de la concurrence intraspécifique pour le choix du partenaire, synonyme d'agressivité, diminue bien les différence entre mâle et femelle (Commentaire de Leach).
La coopération serait donc l’explication à l’origine de la baisse du dimorphisme sexuelle et de la baisse de l’agressivité. Or, comme le souligne Osbjorn en commentaire à la revue de Leach (2003) la coopération n’est pas un caractère développé chez les animaux domestiqués. La baisse d’agressivité chez ces animaux ne peut être qu’un choix de sélection pour assurer un élevage sécurisé.

Pour trouver une cause unifiée à l’expression de ce syndrome de domestication, plusieurs théories ont émergé. La première hypothèse unificatrice était celle basée sur l’expérimentation de domestication du renard argenté Vulpes vulpes initiée par Belgaev (2009). Elle avait pour but d’étudier l’impact de la sélection pour la docilité sur l’apparition du syndrome de domestication. Dans cette expérience, il apparaissait que la variabilité phénotypique résultait d’une modification de la régulation de gènes au cours du développement embryonnaire. Cette variabilité serait le sous produit de la sélection pour la docilité.
Wilkins et al., en 2014, proposent la théorie d’un dysfonctionnement des cellules souches de la crête neurale au cours du développement embryonnaire. Ce dysfonctionnement serait la conséquence directe de la sélection de la docilité : elle induirait la réduction de tissus dérivés de la crête neurale, impliqués dans le comportement, provoquant un déficit de fonctionnement de la crête neurale. Cela serait la cause de l’expression de caractères non-sélectionnés, tels que les changements de pigmentation, la réduction de la mâchoires, dents, oreilles. Cette théorie n'exclut pas l’expression de ce syndrome chez l’Homo sapiens car la crête neurale est présente chez tous les vertébrés. Mais elle n’a toujours pas fait l'objet d’une validation expérimentale, la manipulation de transplantation de cellules souches dans des embryons sauvages ne s’est toujours pas réalisée.

Le problème de cette théorie unificatrice et qu’elle a alimenté la recherche sur des principes non prouvés expérimentalement. Notamment pour les étude génomique, où elle est utilisée pour s’affranchir des observations morphologiques parfois subjective et souvent non généralisée à l’ensemble des animaux domestiqués. Une comparaison génomique sur la base des gènes impliqué dans l’expression de la crête neurale permet de réaliser des chevauchements génétiques entre les animaux domestiqué et l’humain. Mais l’utilisation de ces séquences peut elle être vraiment utilisé pour expliquer ces corrélations alors que la théorie de la crête neural n’est pas démontrée ? Certains chercheurs vont même jusqu’à vouloir expliquer des pathologies humaines comme associé au syndrome de domestication par l’approche de la génomique et de la crête neural ! La schizophrénie serait pour Benítez-Burraco (2017) l’expression excessive de ce syndrome de domestication et donc la preuve que l’humain l’exprime.

Certains scientifiques ont voulu mettre en évidence des liens entre la globularisation du crâne, signe de développement du langage complexe chez l’humain, et l’apparition du syndrome de domestication. Mais ils avouent ne toujours pas être en mesure de prouver ces connexions fonctionnelles recherchées. Notamment car la plupart des gènes impliqués dans le développement sont pléiotropes. Ces connexions trouvées in silico restent encore, elles aussi, à être validées expérimentalement dans les tissus d'intérêt.

Cependant l’ensemble de ces théories ne tiendrai pas compte de la distinction entre caractère de domestication et caractère d’amélioration. Si le premier semble relevée d’une sélection diversifiante, le second résulte d’une sélection intensive et dirigée. Un tri des caractères a alors été effectué, cependant actuellement, certains caractères restent encore très controversés tels que la taille du corps et la diminution du dimorphisme sexuel de par leurs apparitions pré-néolithique, la morphologie de la mâchoire dépendante des alvéoles mandibulaires et dont la modification ne semble pas influer les comportements sociaux de tolérance et d'agressivité, la gracilité squelettique, qui retrouvée chez de nombreuses espèces non domestiquées, ce caractère fut démontré récemment comme résultant de la dernière période inter-glaciaire.

L’hypothèse de l’humain auto-domestiqué a beaucoup évolué depuis. A actuellement elle a pour but principal de démontrer que : a) la sélection au cour de l'évolution de comportements prosociaux est lié aux capacités de communication et de coopération unique de l'homme, b) l'évolution cognitive de l'homme a permis le développement des caractères phénotypiques du syndrome de domestication. Du fait de l’implication des voies cortical et sous cortical dans la tolérance sociale, elle prédit 1) une diminution de la réactivité et de l’agressivité associée à l'augmentation des comportements sociaux, 2) une augmentation de la tolérance due au développement de la "maîtrise de soi"

Pour conclure, il apparaît que deux courants auraient vue le jour pour expliquer ces similitudes morpho-physiologiques et comportementales entre les humains et les animaux domestiqués. L’hypothèse la plus visible actuellement place la théorie de l’auto-domestication au centre de l’évolution cognitive humaine. L’humain aurait une tendance à s’auto-domestiquer pour vivre en communauté. Cette auto-domestication se serait initiée par la coopération.
D’autres hypothèses, plus modérées, datant des années 2000, admettent plutôt que ces similitudes d’expression de caractères sont le résultat d’un mode de vie partagé : une niche artificielle. Dans sa synthèse, Leach appuyait d’ailleurs le fait que la segmentation entre l’étude de l’évolution des animaux, et celle des humains empêchait la convergence de connaissances sur des principes généraux. Elle, et d’autres anthropologues, incitaient à développer une théorie dans un cadre de co-évolution. Principalement pour sortir du débat autours de la terminologie lié au mots “domestication”. Cependant, les scientifiques qui défendent aujourd’hui cette idée, ont dévié leur discours pour ne pas hésiter à parler “d’auto-domestication”.