王谊字宜君，河南洛阳人。王谊年青时，慷慨有大志，善习弓马，博览群书。周闵帝时，他任左中侍上士。那时大冢宰宇文护执政，势倾王室，闵帝拱手沉默而已，什么都不能管。有朝士在闵帝身边，对皇上略有不恭，王谊勃然大怒，上前要*他，这个人连忙请罪，王谊才罢。从此以后，朝士没有谁敢对闵帝不恭谨的。升任御正大夫。遭父丧，哀毁过礼，在父亲坟墓边搭草房，自己背土成坟。升任御正大夫。周武帝即位后，授他仪同之职，逐步升迁为内史大夫，封为杨国公。跟随武帝讨伐北齐，来到并州，武帝入城，反被齐人打败，近臣大多战死。王谊率领麾下骁勇善战者赴难，武帝得以保全。等到平定北齐后，授他为相州刺史。不久，又征他为大内史。汾州的稽胡造反，王谊率兵打击他。武帝弟越王宇文盛、谯王宇文俭虽任总管，但都受王谊节制。他就是这样被看重。等到平定反贼回京，封一个儿子作开国公。武帝快崩驾时，对皇太子说：“王谊是国家大臣，应把他放在机密位置，不必让他到远处为官。”等到隋高祖任丞相，他转任郑州总管。司马消难举兵造反，高祖任王谊为行军元帅，率领四个总管讨伐他。官军到近郊，司马消难害怕而逃奔陈国。于是，北至商、洛，南到江、淮，东西两千多里，巴蛮大多背叛，一起推渠帅兰雒州为主。雒州自称为河南王，以归附司马消难，北面连接尉迟迥。王谊率领行军分路讨伐，不上十个月全部讨平。

高祖派人慰问他，路上车盖络绎不绝。让自己的第五个女儿嫁给他的儿子王奉孝，不久拜他为大司徒。王谊也因与高祖有旧交，也归心于高祖。等到高祖受北周禅让，对他更加礼遇，高祖亲自来到他的府第，与他极尽欢乐。太常卿苏威提议，认为户口增多，田地太少，想减少功臣的封地以给百姓。王谊上奏道：“文武百官，都是历代的功勋贤人，这才被赏赐爵土。一旦削了他们的爵土，未见其可行之处。皇上以为然，未采纳苏威的建议。不久奉命出使突厥，皇上夸奖他称职，封他为郢国公。不久，他儿子王奉孝去世。过了一年，王谊上表说，公主年少，请除丧服。御史大夫杨素弹劾王谊说：“丧服制度，是人道德规范的大事，假使不重视，就会被君子取笑。如若放纵他而不加纠正，恐怕有伤风俗。”有诏书说不治他的罪，但皇上对他的恩宠和礼遇稍稍差一点了。王谊颇有些怨恨。有人告王谊谋反，皇上下令查验其事。主持调查的上奏说，他只说了些不该说的话，实在没有造反的证据。皇上赏他酒喝，然后放了他。