как верно сказать? у рыбов нет зубов? у рыбей нет зубей?

В данном случае правильным будет такой вариант: у рыб нет зубов.

Это разъясняется тем, что в данном падеже, грубо разговаривая, половина существительных добавляет к для себя окончание -ОВ, а иная - категорически нет. К примеру: 5 центнеров и пара сапог. И слово "рыб" входит именно во вторую половину.

Все это довольно-таки сложно, в этом просто запутаться, наделав кучу грамматических ошибок. Потому определенных правил, благодаря которым можно разбираться во обилье сходственных слов, нет. Необходимо просто почаще заглядывать в справочник и запоминать правописание таких слов.