远古时代的人们以野草、野果和动物肉等为食物。他们在寻找食物的过程中逐步认识到吃食某些野草、野果也会引起中毒、吐泻、浮肿、疼痛，甚至造成生命危险；但吃食另一种东西就有解毒或治病的效果。在长期的实践中他们对各种药物积累了初步知识。据史书记载，蒙古人及其祖先，至少在二千年前掌握了药物知识。古代文献记载了匈奴使用毒药的事实。匈奴人还将“矾石、挂心、附子、干姜各二两，研细面作蜜丸”，能治寒症。这药方，匈奴人不仅用过，后来也传入内地，定名为“匈奴露宿丸”，被收入唐代《千金要方》。按道理，药物知识丰富到一定程度以后才能产生药方，因此，匈奴人能够把这种药方变制成丸剂，说明他们的药物知识的历史较长。

    蒙古民族常年在辽阔的草原上过着游牧、狩猎的生活，因而与自然界的各种物质广泛接触，逐步发现、了解到某些植物、动物、矿物及泉水对人体可能产生影响，其中包括一些中毒现象，从而逐渐对所寻觅的食物有所辨别和选择。为了同疾病作斗争，开始注意某些自然产物的治病作用和毒性作用。经过无数次的有意识的试用和观察，包括口尝身受，实际体验，反复应用于各种疾病的治疗，不断总结提高，创造和积累了日益丰富的用药知识。

    生活在大漠南北广袤土地上的蒙古诸部落很早以来就积累了辨认和利用当地土产药物，并积累了用它治病的丰富经验。十二三世纪蒙古民族已有空前的统一，随着各部落之间的经济和文化联系日益频繁，药物和药物知识也互相影响。从而开发和利用了草原、沙漠以及作为药物自然宝库的蒙古大森林里动植物药材。因此，十二、十三世纪时，那些药材被誉为“蒙古药”。蒙古药之名声如此弘扬四海，不仅说明了蒙古民族对药物的知识丰富，也说明蒙古药物在传统蒙古医药学中已成为独立学科。尤其在动物药和植物药极为丰富的蒙古大森林中生活的“林中百姓”，药物知识渊博，“擅长于辨认蒙古药材”。

    据拉施特《史集》记载，游牧在鄂毕河流域的“兀刺速惕、帖良古惕和客思的迷，这些部落熟悉蒙古药剂，以用蒙古方法很好地治病闻名于世，他们就是林中百姓。”拉施特虽然是生活在十四世纪的一位波斯蒙古学者，可是在这里记载的却是十二、十三世纪的事情。至今尚未发现这一时期的有关蒙古医药知识的专门著作。但在历史记载中也能散见当时蒙古人使用药物的一些事实。尤其大量整理蒙古饮膳滋补疗法经验的《饮膳正要》对蒙药的性味功能方面作了不少记载。

    蒙药的一大特点是侧重于动物药材；蒙古民族在从事狩猎、畜牧业的生活中积累了动物药材的不少知识。十三世纪时能够辨认牛黄，并当作药材。例如在《蒙古秘史》中有“布力格可汗、胡图格二人懂行'Jada'的用法”的记载。南宋著作《黑鞑事略》的注释里叙述蒙古人使用的'Jada'，：“此石称Jada，乃走兽腹中之石。大者如鸡卵，大小也不齐，尤其牛马中者贵，盖即所谓牛黄、马宝、狗宝之类也”。明代医著《本草纲目》中将"Jada"解释为"牛黄"。

    蒙药中很早以来应用旱獭肉、骨、尿脖等当作药物。例如《饮膳正要》把旱獭写成“塔喇不花”，并释曰“塔喇不花，味甘无毒。主野鸡瘦疮，煮食宜人。北方人掘取以食，虽职，煮则无油，汤无味，多食难克化微动气。”还介绍了其捕捉方法。《饮膳正要》也整理阐述了绵羊的头肉、肾、心、脑和马、绵羊、驴、骆驼等牲畜；狐、狼、虎、豹、熊、獾等野兽；鹿、野马、野骆驼、野猪等草食动物的所有药用部分的性、味和功能。这些动物在蒙古地区是常见的。十四世纪时，蒙古医生能够制作膏剂。如在《饮膳正要》中把沙棘写成"赤赤哈纳(蒙名)，释曰“用银或石器熬成膏”。这不仅说明蒙古医生很早就会制作膏剂、，而且能够证明当时制作膏剂的方法也很精细了。

    药浴是蒙医传统外治疗法，根据史料记载，十三世纪时开展蒙医药浴疗法取得了显著的成绩。例如蒙哥可汗的胡图克泰皇后患病时，服用大黄汤药的同时施以大黄药浴的外治疗法。维廉?鲁布鲁克在他的游记里写道：“合答（或胡图克秦）皇后思病，将大黄切碎，几乎成为粉……放进水里……喝了一些圣水和大黄，并用这种水濡湿了她的胸部，皇后病愈。”十三世纪时的蒙古医生常用大黄。例如，1226年蒙古军中发生瘟疫、用大黄治愈。蒙哥可汗的金匠“维廉患了重病，医生给他服大黄而病重”的记载。 随着蒙药学发展成为一门独立的学科，使用“烈性药物”的知识也丰富了。拉施特的《史集》说“至今把有些蒙成药剂叫做哈吉儿（哈迪儿），古时的哈迪尔就是指烈性成药”。古代叫做的哈迪尔，到了十四世纪就变成哈吉儿，说明普遍使用哈迪儿药是十四世纪以前的事情。另外，在《瑞竹堂验方》、《本草纲目》、《长春真人西游记》、《饮膳正要》等古代文献中都记载了内蒙古特产肉苁蓉。《饮膳正要》也阐述了八旦杏、人参、杏仁、甘草、五味子、山枣、百合等很多药用植物的性、味、功能。