曾肇，字子开，考取进士后，调任黄岩县主簿，被推荐任郑州教授，升任崇文校书、馆阁校勘兼国子监直讲、同知太常礼院。太常礼院从秦朝以来，有关文献残缺不全，先辈儒生各人都凭想象，无法核实。曾肇在职期间，纠正了前辈的不少错误。亲自祭祀土地神于北郊，大概是从曾肇开始的，其他不同看法都不能改变曾肇对礼的解说。
其兄长曾布因为议论商业制度被责罚，曾肇所任的主判官也被撤销。呆在馆中的诸人中，不少人专门揣摩皇上的心思，阴谋踩着别人来爬上去，大家都感到处境危险，曾肇却安然地面对这一切。
曾公亮死，曾肇为他写行状，神宗读后很欣赏。迁他任国史编修官，升吏部郎中，迁右司，担任《神宗实录》一书的检讨。元..初年(1086)，升任起居舍人。不久，担任中书舍人。
曾肇认为叶康直任秦州知州时处事不当并批评他，执政官惊奇曾肇居然不先上告，御史趁机攻击他。曾肇提出辞职，范纯仁对大臣们说：“如果好人得不到宽容的环境，像我们这类人就不能在这儿呆了。”极力替曾肇辩护，曾肇才没有受到处罚。
门下侍郎韩维弹劾范百禄，太皇太后认为韩在诬陷范，让韩出任邓州知州。曾肇说“：韩维替朝廷辨别好人、坏人，评价人与事的是非得失，不能凭主观想象认为他错了就赶走他。”拒绝替皇帝起草命令。谏议大夫王卖见因为批评了胡宗愈，皇上想调他去润州，曾肇说“：皇上把大臣当做心腹，把台谏官当做耳目，两者相辅相成，不可偏废一个。目前王卖见批评执政官就被放逐，这就是怜爱心腹而堵塞耳目了。”哲宗醒悟过来，就加任王卖见为直龙图阁。
太皇受册命，诏令按照仁宗时章献皇后的样子，让太皇在文德殿办公。曾肇说“：天圣初年(1023)，机要大臣们决定让皇太后去崇政殿受册封，仁宗特地改为让太后在文德殿受册封，这是临时措施，不足为训。目前皇上您要照仁宗的样子做，以充分表达您尽力尽孝的诚意，可说已无以复加了。我私下以为，太皇应该在此时特地下诏向天下人宣传皇上您的孝心，然后表达他的谦逊美德，按照仁宗天圣时期大臣们的意见，只在崇政殿受册封。那样，您的孝心更明白，太皇的德行更高贵了。”坤成节时祝太皇寿，皇上想让百官列队于崇政殿。曾肇又说“：仁宗天圣三年(1025)，近臣们列队于殿廷，百官则只在东门拜献贺表。天圣九年，才到会庆殿。现在承蒙太皇的圣德，不肯与章献皇后一样，就应该采用天圣之年的办法。”都被采纳了。
四年(1089)，发生春旱，官府仍讲究春天饮宴。曾肇同彭汝砺一起上书说：“目前正闹天灾，正是君臣们敬畏天命谨慎从事之时，他们却一块儿大吃大喝，歌舞升平，恐怕无力补救天灾了。”第二天，皇上就下令停止宴请。蔡确被贬斥到新州，曾肇事先同汝砺约好，一起为蔡辩护。恰好碰上曾肇改任给事中，汝砺只好独自上书，一些人认为曾肇出卖了朋友汝砺，曾肇也懒得辩解。以宝文阁待制的身份任颍州知州，又改任知邓、齐、陈州和应天府。
七年(1092)，回京任吏部侍郎。曾肇在礼院任职时，开创了皇上亲自祭祀北郊的先例。这年又该郊祀了，曾肇坚决捍卫以前的观点。结果还是合祭天地，乃自我弹劾，改任刑部侍郎。仍要求降职，于是下放知徐州，又调任江宁府。哲宗亲自当权后，改用元老旧臣，旧臣们多次称赞曾肇熟悉礼制，于是召他回京。曾肇说“：人君虽然天生的优良品质，也必须依赖于前后左右的大臣们得力，把他们当作立政之根本。应该在此时精心选拔忠诚、端正、善良之士，放在身边，以便咨询、讨论、顾问。这比深处禁宫、亲近宦官女人，所得的好处要强万万倍。”皇上身边的近侍贵宠们讨厌他的这番话，调他任瀛州知州。同其兄曾布调换了一个地方。当时又追究《实录》中的诽谤讥讽问题，曾肇被降到滁州。不久恢复集贤殿修撰之官衔。历任知泰州、海州。徽宗即位后，又被召回京师任中书舍人。
四月初发生日食，皇帝应当下诏广泛征求意见。曾肇将皇帝的旨意全面地写入了他起草的诏令中，诏令下达后，意见书络绎不绝。章..很反感，想找点理由除掉曾肇，徽宗不听。元..年间遭迫害的大臣，都蒙恩请回来录用了，曾肇经请求后将死者的名单都造好，写了悼词，哀悼这些冤魂。人们读了他写的悼文后都感动得哭了。迁任翰林学士兼侍读。谏官陈馞、给事中龚原因为说错了话而犯罪，没有人敢为他们说话，曾肇却挺身而出，极力为之辩解。当时不少人认为元..、绍圣时的执政者都有失误。其兄曾布传达皇帝的命令，令曾肇替皇上起草诏书，将这一意见晓谕天下。曾肇拜见皇上说：“陛下想建立公正的制度，消除朋党门户之争，必须预先分清楚君子、小人，赏善罚恶，不能有所偏废。”全面详细地阐述了这一意见。不久诏令就从这一主张中产生了。曾布升任宰相时，恰好碰上该曾肇起草委任状。宋朝的学士中弟弟替哥哥起草委任状的，只有韩维、曾肇两人，士子们都引以为荣。
建中靖国元年(1101)，太史上奏书，说四月又有日食。曾肇奏说“：接连几年正阳位置发生日食，灾异很显然。陛下简朴、清净无为的程度是否比前低？声色犬马等奢侈的爱好，是否有时在心中蠢动？忠臣奸臣、贤人不肖之徒的分别是否还不彻底？奖惩是否还有不当之处？左右小臣，阿谀奉承，阻碍别人的意见，假借您的名义提拔人，老百姓有冤屈无处申诉。这些都应该反省检查，自责自勉，以免再发生天变。”说完泪如雨下，皇帝采纳了他的意见。
其兄曾布任宰相，曾肇因此按照亲属间相互回避的有关规定，不能任谏官，改任龙图阁学士、提举中太一宫。不久，出任陈州知州，历知太原、应天府和扬定二州。崇宁初(1102)，被削职，贬任和州知州，又徙岳州，接着贬为濮州团练副使，安置在汀州。四年(1105)，回到润州而死，死时六十一岁。
从熙宁以来四十年间，大臣轮流执政，邪正互相倾轧，朋党之争屡次发生，曾肇处在夹缝中，却与他们都合不来。其兄曾布同韩忠彦一起任宰相，天天图谋排挤走韩忠彦。曾肇已任地方官，写信对曾布说：“兄长正得到君主的信任，应当引荐好人，走正道，以杜绝章..、蔡卞这种坏人重出害人。然而几个月以来，世人称道的正人君子，相继离开了朝廷，被进升为辅佐、侍从、台谏等高官要职的，往往都是从前追随章..、蔡卞的。一旦你的权势完了，这些人就会只顾保全自己的位置。想来都令人寒心。从前的章..、蔡卞虽然没来，但一个蔡京，坏的程度就够这两人之和了。不可不深思啊。”曾布不听从他。不久，蔡京升到宰相地位，曾布、曾肇都不免遭殃。
曾肇天性仁厚，容貌端庄严肃。从小就认真学习，博览经书史传，写的文章温和、圆润而有章法。历任十一州，大多有善政。绍兴初得谥号文昭。