耶律乙辛，字胡睹衮，五院部人。父迭剌，家中贫穷，吃穿都不能自给，部人称之“穷迭剌”。
起先，乙辛的母亲正当怀孕之时，于夜里梦见与黑羊搏斗，拔断其角与尾。醒来后占梦，术士说：“这是吉兆。羊去掉角、尾为王字，你将来有子当为王。”待到乙辛出生，正好在路途中，没有水用来浴身，车轮旋转，碾乱了车辙，忽然间就涌出一股泉水。迭剌因为生了个好儿子，想找酒来庆贺，闻得酒香，在草丛中得到两只酒木盍，于是东向而祭。
乙辛幼时机智灵巧。曾经牧羊到日已偏西，迭剌去看他，乙辛正熟睡。迭剌碰醒了他，乙辛发怒说：“怎么吵醒我！刚刚梦见神人手持太阳和月亮喂给我吃，我已吃了月亮，吃太阳刚刚吃了一半就醒了，可惜没有吃完。”迭剌从此不让他牧羊了。
成年后，容貌隽美，外表和顺，内心狡黠。重熙年间(1032～1055)，为文班吏，掌太保印，陪从入宫。皇后见乙辛安详文雅却在做无实权的闲官，便将他补为笔砚吏；皇上也喜欢他，累迁到护卫太保。道宗即位，因乙辛为先朝任用之人，赐予汉人四十户，同知点检司事，常常召见他处理疑难议案，升之为北院同知，又任过枢密副使。清宁九年(1063)，耶律仁先为南院枢密使，当时驸马都尉萧胡睹与重元结党，忌恨仁先在朝中执政，上奏说“：仁先可以担任西北路招讨使。”皇上准备听从。乙辛上奏说“：臣新近参预国政，不知治事之体。仁先乃是先帝旧臣，不能这么快就离开了朝廷。”皇上认为有理。重元乱平，拜为北院枢密使，进封为魏王，赐为匡时翊圣竭忠平乱功臣。咸雍五年(1069)，加守太师。诏令若四方有军事，特准他便宜行事，于是威势震慑朝廷内外，门下送礼及行贿的接连不断。凡是阿附他的人都得到荐举提拔，忠直不阿的人则被贬斥、放逐。
大康元年(1075)，皇太子开始参预朝政，法令制度整饬清明。乙辛不能得志，阴谋找个借口诬告皇后。皇后死了，乙辛心中不安，又想害太子。他找个机会入宫上奏说“：帝与后正如天、地并立，中宫怎能无人呢？”盛赞其党人驸马都尉萧霞抹之妹美丽且贤惠。皇上听信他的话，纳于宫中，不久册立为皇后。当时护卫萧忽古知道乙辛奸恶之状，埋伏于桥下，想杀掉他。不一会儿暴雨冲坏了桥，计划没有得逞。林牙萧岩寿上奏说“：乙辛从皇太子参预政事起，心怀疑惧，又与宰相张孝杰互相依附。恐怕有反叛之图谋，不能让他身居要职。”皇上便出之为中京留守。乙辛哭着对人说“：乙辛没什么过错，因为谗言被贬出京。”其党人萧霞抹之流将他的话说给皇上听。皇上后悔了。不久，出萧岩寿为顺义军节度使，诏令近臣商议召回乙辛之事。一应臣僚无人敢言，耶律撒剌说：“当初因为萧岩寿上奏，贬出乙辛。如果所奏不对，就该将他治罪；如果说的对，就不该再召回乙辛。”多次上谏，皇上不从。竟又召回乙辛任北院枢密使。
当时皇太子因为母后的去世，忧形于色。乙辛党人喜不自胜，纷纷进谗言诽谤，忠直善良之士差不多都被贬逐尽净。乙辛依萧十三之言，夜里召见萧得里特阴谋设计陷害太子，让护卫太保耶律查剌诬告耶律撒剌等人一起商议扶立皇太子。诏令审查，因没有证据而作罢。又让牌印郎君萧讹都斡到皇上那里自首“：耶律查剌上次告发耶律撒剌等，其事体均属事实，我也参与其谋划。本来想杀乙辛等人而立太子。我们几人如果不来说明，恐怕事情败露受到株连。”诏令加以审讯，使揭发他人，乙辛迫使他们全部承认。皇上动了怒，命令诛杀撒剌及速撒等人。乙辛恐怕引起皇上怀疑，便领几个人到法庭上盘问，让他们戴上沉重的枷具，用绳索缠缚其颈，不能出气，人人都无法忍受酷刑，只求早点死去。乙辛回过头来上奏说“：与原告所招完全相同。”当时天气正热，尸首不得下葬，以至连地都臭了。于是将皇太子囚禁于上京，看守的人都是乙辛之党。不久又派萧达鲁古、撒把等人去杀皇太子。乙辛党人大喜，欢聚饮酒数日。上京留守萧挞得报告太子已死。皇上哀痛伤心，想召回其妻子，乙辛暗里派人杀了她以灭口。
五年(1079)正月，皇上要出外狩猎，乙辛奏请留下皇孙，皇上想听他的。同知点检萧兀纳上谏说“：陛下如果听乙辛的话留下皇孙，皇孙年纪尚幼小，左右无人，请留下我来保护，以防不测。”于是与皇孙一同出行。从此皇上开始怀疑乙辛，渐渐察觉其奸邪。适逢皇上北上，将要驻扎于黑山之平淀，看见随从众官大多跟在乙辛后面，厌恨起来，便出乙辛知南院大王事。按例削去一字王爵，改为混同王，心里才稍稍自宽。待到乙辛入宫中称谢时，皇上于当日遣回，改为知兴中府事。
七年(1081)冬，因犯将违禁物品卖入外国之罪，下有司议罪，依法当处死。乙辛党人耶律燕哥独奏应该定为八议之罪，得以免死论处，以铁骨朵击之，幽禁于来州。后来阴谋逃奔入宋，又加以私藏兵甲之事败露，被缢杀。乾统二年(1102)，挖开其坟墓，开棺戮尸。