吴兢，汴州浚仪人。励志勤学，博通经史。宋州人魏元忠、亳州人朱敬则十分器重吴兢，等到居相辅位，推荐吴兢有史才，可以居近侍，于是使他任直史馆，撰写国史。几个月后，授予右拾遗内供奉。神龙二年(706)，升右补阙，与韦承庆、崔融、刘子玄一起撰写《则天实录》成功，转为起居郎。不久升水部郎中，遭逢父母丧事返回乡里。开元三年(715)，停止服丧，上奏给皇帝说：“我修史已完成数十卷，自从停职还家，不忘纸札，请求继续完成剩下的工作。”于是授予谏议大夫，依照从前撰写国史。不久兼修文馆学士，经历卫尉少卿、左庶子等职。居职将近三十年，撰书叙事简明扼要，人们使用时称道他。末年伤于叙事过于简略，《国史》未修成。十七年，出任荆州司马，皇帝诏令允许将史稿自己带走。中书令肖嵩监修国史，上奏拿取吴兢撰写的《国史》，得到六十五卷。多次升台、洪、饶、蕲四州刺史，加封银青光禄大夫，升相州长史，封襄垣县子。天宝初年(742)改官名，为邺郡太守，入朝任恒王傅。
吴兢曾经认为梁、陈、齐、周、隋五代史繁杂，于是另外撰写梁、齐、周史各十卷、《陈史》五卷、《隋史》二十卷，又由于太简略受到损害。吴兢虽然年老气衰，还是希望担任史职，但行步伛偻，李林甫认为吴兢年老不予任用。天宝八年(748)，在家中去世，终年八十多岁。吴兢死后，他的儿子进献他撰写的《唐史》八十多卷，事情多有纰缪，赶不上壮年所写。吴兢家积聚的书很多，曾经按条目登记书的次序，名为《吴氏西齐书目》。