陈尧佐字希元，其先辈为河朔人。高祖陈翔，为蜀州新井县令，因而安家在那里，于是为阆州阆中人。
陈尧佐进士及第，历任魏县、中牟县尉，撰《海喻》一篇，人们对他的志向表示惊奇。以试秘书省校书郎的身份知朝邑县，恰逢其兄陈尧叟出使陕西，揭发宦官方保吉的罪行，方保吉怨恨他，以事诬陷尧佐，降为朝邑县主簿。移任下圭阝县主簿，升任秘书郎、真源知县，任开封府司录参军事，升开封府推官。因言事忤逆谕旨，降为潮州通判。修建孔子庙，造作韩吏部祠，以讽劝潮州人民。百姓张氏子与其母亲在江中洗澡，鳄鱼尾随而吃掉其子，母亲不能救助。尧佐听说后为之伤心，命令二吏划小船拿着网前去捕捉。鳄鱼最为凶暴，不能网到，到这时，鳄鱼顺服被网住，尧佐写文章把鳄鱼示众街市而烹之，人们都感到惊异。
召尧佐回朝廷，任直史馆、知寿州。当年大饥荒，尧佐拿出俸米做成粥供饥饿的人吃，吏人都献出大米，赈济几万人。移任庐州，因父亲患病请求辞官回家，提点开封府界事，后来为两浙转运副使。钱塘江用竹笼装石为堤，堤第二年就毁坏。尧佐请求放进柴薪装满泥土才坚固耐久，丁谓不以为是，尧佐移任京西转运使，后终于按尧佐的建议实行。移任河东路转运使，以河东土地贫瘠百姓贫困，依靠石炭为生，奏请朝廷免除税收。又减少泽州大广冶铁课税几十万。移任河北，母亲年老请求就近侍养，召他纠察在京刑狱，为御试编排官，因安排等次失误被降官，监鄂州茶场。
天禧年中，黄河决口，起用滑州知州，制造木笼以减除水怒，又修筑长堤，人们称作“陈公堤”。开始营造永定陵，又移任京西转运使，入为三司户部副使，移任度支副使，同修《真宗实录》。没有应试中书，特地提升为知制诰兼史馆修撰、知通进银台司。进升枢密直学士、知河南府，移任并州。每次汾水暴涨，并州百姓往往忧虑，尧佐替他们修筑堤防，栽植柳树几万株，修造柳溪，百姓赖其利。
召他同修《三朝史》，代理弟弟陈尧咨同知开封府，累迁右谏议大夫，为翰林学士，于是授官枢密副使。祥符知县陈诂治理严厉苛刻，官吏打算加罪陈诂，就使县为之一空逃去，太后果然愤怒；但陈诂与吕夷简连亲，执政大臣以嫌不敢争辩。事情传送至枢密院，尧佐一个人说：“惩处陈诂则奸吏得计，以后谁敢再约束胥吏呢？”陈诂因此得以免罪。尧佐以给事中的身份参予朝廷政事，升任尚书吏部侍郎。
太后去世，执政大臣多被免除职务，尧佐以户部侍郎的身份知永兴军。经过郑州，被郡人王文吉以反叛事告发，传送御史中丞范讽弹劾处理，而事情才辨明。改任庐州知州，移任同州，又移任永兴军。开始，太后派宦官在京兆城中起造佛塔，前任长官姜遵把古碑古碣全部毁掉充作砖瓦用，尧佐奏说：“唐代贤臣墓碑，现在已损失十分之七八了。子孙深深地镌刻大字，是想传之千载，一旦与瓦砾等同，实在是可惜。那些没有被毁坏的，希望敕令州县完整保护。”移任郑州。恰逢修造章惠太子园陵，郑州陈设之物很严格，赐书褒谕。不久授任同中书门下平章事、集贤殿大学士。因灾异几次出现，罢为淮康军节度使、同中书门下平章事、判郑州。以太子太师的身份退休，去世后，赠司空兼侍中，谥号文惠。
尧佐从小爱好学习，父亲教授众子经书，其兄长没有完成学业，尧佐偷听已成诵。开始肄业锦屏山，后师从种放于终南山，等到显贵，读书没有中断。善于古隶八分，写一丈见方的字，笔力端正遒劲，年老还是不衰。尤其工于诗。性情勤俭节约，看见动物必定告诫左右侍人不要杀害。器物衣服坏了，随时就缝补，说“：无非是使之不全部被丢弃。”号称“知馀子”。自己写墓志说“：年寿八十二不为夭折，官一品不为低贱，使相接受俸禄不为耻辱，这三者大略可以归息于父亲栖神之地了。”陈抟曾对他的父亲说：“您三个儿子都当为将相，惟有中子显贵而且年寿高。”后来果像陈抟所说的那样。尧佐有《集》三十卷，又有《潮阳编》、《野庐编》、《愚丘集》、《遣兴集》。