Заменить столбец значениями, не равными нескольким значениям

replace() не нужен, просто используйте выражение case:

select d.*, (case when cola in ('a', 'b')
                  then cola else 'NO'
             end)
from dataset d;

Еще один способ сделать это ...

SELECT Col1, Col2, ColN,
       CASE
         WHEN ColA = 'A' OR ColA = 'B' THEN ColA
         ELSE NULL
       END AS ColA
FROM   dataset   

Чтобы быть в безопасности, вам, скорее всего, также необходимо добавить проверку IS NULL.
я считаю, что стандарты SQL, определенные NOT IN(), не должны работать со значениями NULL ..

Поскольку ColA NOT IN('A','B') - то же самое, что писать ColA <> 'A' OR ColB <> 'B', а SELECT 'A' <> NULL никогда не должно быть правдой.

< Сильный > Query

SELECT 
  (
    CASE
      WHEN ColA NOT IN('A','B') OR ColA IS NULL
      THEN 'NO'
      ELSE ColA
    END
  ) AS ColA
  , ColB
FROM 
 dataset

SELECT 
CASE WHEN ColA NOT LIKE 'A' OR 'B' THEN 'NO' ELSE ColA END AS 'ColA'
,ColB
FROM Dataset;