在历史上，汉武帝时开始设置这种官，起初多让皇室或外戚及王宫大臣的子弟担任。到三国时，魏国的何晏因与公主结婚，被授予驸马都尉之职。其后，杜预与司马懿(晋宣帝)的女儿堂山公主结婚，也拜为驸马都尉，魏晋之后，皇帝的女婿照例加驸马都尉称号，简称“驸马”。驸马已不是官职，仅是称号而已。
“驸”指的是马，三匹马拉一辆车，左右两边的马称为“驸”。“驸马”则是掌管皇帝之“驸”的人，汉武帝时开始有“驸马都尉”这种官职，掌管皇帝舆车之“驸”。《后汉书》载：“皇女红夫，十五年封馆陶公主，适驸马都尉韩光。”即东汉馆陶公主找的女婿恰巧是个驸马都尉，从此以后逐渐把“ 驸马”作为皇帝女婿的专称。
另一说法是晋武帝司马炎为了自身安全，掌管皇帝车驾的人只有皇帝女儿(公主)的丈夫才能担任。这一规矩被后世皇帝一直沿袭下来，天长日久“附马”便成了皇帝女婿的代名词。
后来，凡作了皇帝女婿的人，无论是否擅长训马，都被拜作“驸马都尉”。帝的女婿当然不好当，驸马尽管身份高贵，但公主却是皇帝的女儿，这样一来，驸马不可以三妻四妾，不可以要求老婆三从四德。
《明史·志第三十一·礼九》载：“驸马黎明于府门外月台四拜，云至三月后，则上堂、上门、上影壁，行礼如前。始视膳于公主前，公主饮食于上，驸马侍立于旁。”完全是奴才相。有些驸马比较幸运，公主还算安分守能相安无事;但有些就比较倒霉了。
《宋书·本纪第七·前废帝》载：“山阴公主淫恣过度，谓帝曰：‘妾与陛下，虽男女有殊，俱托体先帝。陛下六宫万数，而妾唯驸马一人。事不均平，一何至此!’”这位宋山阴公主嫌只有驸马一个老公服侍太少，要让皇帝哥哥又给找了二三十个“面首”。