Depende muito das configurações, ou mesmo da imagem em si, mas em geral o avif fornece uma qualidade/compressão um pouco melhor que o webp.

O problema do avif é a menor compatibilidade com navegadores/aparelhos e também a forma de carregamento.

O jpeg carrega a imagem de cima pra baixo, meio que em linhas.

O webp, mostra primeiro uma imagem bem baixa definição e vai melhorando a qualidade até terminar de receber o arquivo.

Já o avif só mostra a imagem depois que ela tiver sido 100% baixada pelo navegador, aparecendo tudo de uma vez só.