韦思谦名仁约，因为音近武后父讳，乃以字为名。他的祖先原籍雍州杜陵，后迁居襄阳，又搬移到郑州阳武定居落籍。八岁时母亲去世，以孝闻名。及进士第，累调应城县令，因小过失闻于朝廷，按例不得提拔。吏部尚书高季辅说：“我选拔贤能才得到这个人，怎么能因他有点小毛病而不顾大节呢？”就提拔他为监察御史。他常说“：御史到各地巡察惩邪扶正，声威不能动摇山岳、震慑州县，就是不称职。”中书令褚遂良购置土地，低于应有的价值，思谦检举了他。褚遂良被罢中书令调任同州(今陕西大荔县)刺史。到后来遂良复任宰相，把思谦贬出朝廷到清水县任县令。有人来安慰他，他回答说：“我急躁直率，一遇不当之事立即激动。哪有时间顾恤自身(安危)？大夫处于监察这种要敢于说话的地位，更重要的是明目张胆直言，来报答天子的恩德，怎么能碌碌无所作为，只知保全妻子儿女呢？”沛王府长史皇甫公义引荐他担任仓曹参军，对他说：“您不是那种蛰处于小池的神物，暂时委曲您在这里客居一段时期，使我们王府增添威望。”
后改任侍御史，高宗很看重他。常召见和他谈话，虽然很疲倦，在屋内走来走去，还谈一段时间才停。凡疑难案情和急重大事，多和他研讨裁决。武侯将军田仁会诬奏御史张仁..，高宗在朝中当面诘问。仁..惶懦不能作答，思谦为仁..辩冤，并说田仁会是搞诬陷来害人的，讲的详尽有力。高宗认为说得好，仁..终于没有坐罪。思谦累迁右司郎中、尚书左臣，整顿纪纲，使朝廷严肃有法。
晋升为御史大夫。
思谦性格忠直，态度庄重，凛然不可犯。每遇见王公，未曾行跪拜大礼，有人以为不够恰当，思谦回答说：“做御史的人是君王的耳目，应当有特殊的地位，雕、..、鹰、..，难道是一般的禽类？为什么要我屈从与他们亲近？”高宗驾崩，思谦抱病入内临丧，泪涕凝结须髯，俯伏号哭气绝。诏令派人搀扶。
后转任司属卿，再任肃政大夫。按旧规，大夫与御史同礼，只有思谦一人不予回礼。有人认为不合情理。思谦说：“朝廷班列向来有个差次，为什么要无原则呢？”则天皇帝垂拱年初，封为博昌县男爵，同凤阁鸾台三品，转任纳言，思谦以病辞，帝不准，下诏可以乘肩舆上朝，让其子孙随侍。后以太中大夫退休，去世后追赠为幽州都督。