多有鸟兽，便率王师三千，东来射鸟猎兽。来到山下，周穆王弃车换马全副戎装，立即登山围猎。掌管天下山泽的虞人 连忙带领三百军士在前面掠林搜山，驱赶出隐藏的走兽大鸟以供天子射杀。不想掠至山腰，骤然发现一只斑斓猛虎伏在芦苇丛中！眼看天子就在后面，虞人惊慌大呼：“虎伏葭中！我王退后！”周穆王的马前猛士奔戎一声大喝，势如奔雷，飞步赶来，扑入芦苇丛中与猛虎徒手相搏！未及一刻，奔戎便手执猛虎双耳，骑着猛虎来到周穆王马前。奔戎一声大吼，猛虎竟长啸一声，匍匐在天子面前。群臣军士高呼着“猛虎臣服！天子万岁！”周穆王大喜过望，高声下令：“虎为兽王，将其永久关押此山，毋加伤害！”奔戎便将猛虎关进一只山洞，洞口用大石堆砌，大书了“虎牢”二字。
从此之后，人们一提起大伾山，便都呼为“虎牢”。
春秋时期，郑国一度称霸中原。当时的大诸侯晋国是晋成公在位，他联络中小诸侯三十余国，会盟于黄河北岸，决心遏制郑国。经过三天秘密商议，会盟诸国在大伾山修建了一座可以驻屯十万大军的城堡，这座城便命名为虎牢关。虎牢关筑成，诸侯盟军便堵在了郑国大门口，逼得郑国不得不与盟国议和罢兵。从此，郑国小霸便一蹶不振了。
进入战国，郑国被韩国吞灭，但虎牢关却被吴起率军夺归了魏国，成为魏国向崤山与函谷关推进的要塞基地。秦国强大后夺回了函谷关与崤山，趁势推进到函谷关以东，虎牢关的位置便骤然显得更为重要，竟成了整个中原的西大门！这时的虎牢山与虎牢关，历经百余年修葺扩建，已经成为雄奇险峻的赫赫关城。后世《水经注》这样描述虎牢关：“萦带伾阜，绝岸峻周，高四十丈许，城张翕险，崎而不平！”就是说，虎牢关南有汜水北有济水萦绕，建在大伾山的中央山腰，居高临下的控制着东西两面的要道，城高四十多丈，依山势开合，险峻异常 ！
苏秦选中了虎牢关，要在这里举行六国合纵的会盟大典。