因为父荫担任太子舍人，以患病推辞不就，汉顺帝永建年间，被公卿推荐，被朝廷徵辟。李固非常仰慕他，在书信中说:「嶢嶢者易缺，皦皦者易污。阳春之曲，和者必寡，盛名之下，其实难副。」，在职期间，重用清议之士，如范滂、袁忠等日后遭到党锢之祸的名士。黄琼到京师洛阳，历任议郎、尚书令。151年以太常任司空，152年因地震免为太仆，153年任司徒，154年任太尉。158年因日食免为大司农。159年，汉桓帝除梁冀，因黄琼不附梁冀，再任太尉，封邟乡侯。161年再任司空。临终上书抑制宦官，谥号忠。一女嫁刘焉。其孙黄琬。