Niomin

Если интересуют только сами уникальные id, то:

SELECT DISTINCT user_id from   WHERE  phone IS NOT NULL

Если не уникальные, то можно использовать такие функции, как MIN, MAX, какие-то ещё. В общем, требуется некоторые уточнение по задаче :)