元徽是元鸾的儿子，字显顺，粗知文史，颇有为官之才。宣武帝时，袭封王爵，任河内太守。在郡时治理得清净严整，在当时很有声誉。明帝时，担任并州刺史。早先，并州夏天受了霜灾，很少有人安于本业，元徽便要开仓赈济，文武官员们都出来劝谏和阻止。元徽说“：原先汲长孺当郡守时，还立即开仓，救人灾祸。况且我是皇室近亲，受封为大藩，怎能够拘于成法而不救人之危困呢！”他便先行赈济，然后上奏朝廷。明帝嘉奖了他，加封他为安北将军。汾州的山胡人过去时常出来掳掠，自从元徽到郡以后，他们便相互告诫，不要到邻州去骚扰。汾州、肆州的百姓也大多来找元徽投诉，愿意接受他的裁决。又转任秦州刺史，回京都时，官吏和百姓们都攀着车子哭泣，难以控制自己的感情。元徽使用的车破烂，马也很瘦弱，还是他原先从京城带来的旧物，见到的人无不赞叹他的清廉节俭。
改任为度支尚书，兼吏部尚书，不久又当了正尚书。元徽认为选拔官员的目的在于得到合适的人才，如果因年限而造成有些年停止选举人才，这就有悖于旧制。但是原法实行时间很久了，难以立即革除，他便采取德行相同的根据年限长短作为任用的先后，而劳绩相同的先晋升那些有德行的人，当时人认为是比较合理公平的办法。又委任为侍中，其余官职照旧。元徽曾上表请求担任一个州的太守。天下士人听后无不叹息，都说“：城阳王离开选部，贫贱者还有什么希望！”抱怨和感叹的声音，很快传到朝廷。于是仍让他兼任吏部尚书。屡迁至尚书令。
当时灵太后专制朝政，朝中纲纪败坏，元徽既为太后所宠信，却没有什么建树来辅佐朝廷，又跟郑俨之流同结一党。外表显得柔顺谨慎，内心多是相互猜忌，那怕瞪上一眼的不满，也要寻机报复，有识者都十分不满。他又设法防备妻子于氏，于氏因而和广阳王元深私通。当元深受委任掌管军队时，经常有表启上奏，论及元徽的罪过，虽然也有诬告和毁坏他的名声之处，但也有许多是实有其事的。
庄帝继位，被任命为司州牧。不久又任司徒，仍兼司州牧。元颢入洛时，元徽跟从庄帝北行。当车驾回京时，因有预谋的功绩，被任命为侍中、大司马、太尉公，加给羽葆鼓吹，增加的食邑连同从前的共二万户。元徽上表辞去官职和封号，前后多次上表。元徽因为是庄帝亲信的侍臣，内心害怕尔朱荣等，所以才会上表辞官。庄帝明白他的心意，同意他辞去封号，不让他辞去官职。元徽的后妻是庄帝舅舅的女儿。侍中李..，是庄帝姐姐的女婿。元徽本来就善于献媚取宠，很会取悦于人，他身负朝廷内外的重望，其他宗室亲信，没有人能和他相比。他便和李..等人劝告庄帝除掉尔朱荣。庄帝原先也有这个意图。尔朱荣死后，尔朱世隆等人的力量仍聚集不散。朝廷任命元徽为太保，仍任大司马、宗师、录尚书事，总管内外事务。元徽原以为尔朱荣死后，枝叶自然散亡。当尔朱氏宗族聚集起来图谋叛乱时，元徽不知道该用什么办法才行，只是忧虑和恐惧不安而已。他性格又特别嫉妒别人，不喜欢有人在他前头露面，每次入宫参与谋略，都独自和皇帝一起作决定。朝臣们有上奏陈述军国大政谋略的，他都劝告皇帝不要听从。他总是说“：小贼何必担心不能除去？”又特别吝惜费用，当时凡有所赏赐，都特别少薄，或者说时多，中途又削减，或给过以后又讨回去。庄帝对自己特别节俭，尤其受到元徽的赞同。太府少卿李苗，在元徽任司徒时他担任司马，元徽和他相交深厚。李苗每次进献忠言时，元徽多数不采纳。李苗对人家说“：城阳王原来已是蜂目，连豺声也将要露出来了。”当尔朱兆入京时，侍卫们都逃散了，庄帝步行走出云龙门，见元徽骑马奔过去。庄帝连连大声喊叫，元徽头也不回，只顾自己逃走。于是，元徽逃到了山南，来到旧吏寇弥的家里。寇弥表面上虽然表示接纳，心里却十分不安。他便说了许多话来恐吓元徽，对他说：“官家的捕手马上就要来了。”让他躲到别的地方，又派人在路上杀害了他，把尸体送到尔朱兆那里。孝武帝初年，追赠为使持节、侍中、太师、录尚书事、司州牧，谥为“文献”。
元徽的儿子元延袭了封爵。齐国受禅时，依例降爵。