J'ai justement opté pour un lecteur mp3 car le fait d'écouter des mp3 sur un pda n'est pas pratique du tout.
Certains prog (par exemple: winamp) te permettent de configurer les touches, tu peux ainsi tout manier avec le ppc dans la poche, mais un ppc reste lourd, le son n'est pas mauvais (tout de même inférieur à un lecteur mp3), tout dépend du ppc que tu as et des progs que tu utilises, moi j'ai un ipaq et j'utilisais winamp pour la qualité de son equalizer et le son était meilleur que celui rendu par windows media.
Maintenant c'est à toi de voir, les ppc sont de - en - lourds et leur manipulation est facilitée par plusieurs boutons tu peux ainsi l'utiliser 'sans l'ouvrir'.
Faut savoir aussi que le transfert des mp3 est plus lent vers un ppc (ou une carte de mémoire, qui est préférable) plutôt que vers un lecteur mp3, qui est lui repéré directement comme un disque externe, alors que pour un ppc tu es obligé de le synchroniser avant tout transfert avec ton pc et ce transfert ne peut se faire qu'avec une base et des drivers (donc pas question d'aller chez un pote récupérer 3 mp3 ou autre fichier).
Sinon avec tous les progs évolutifs tu peux lire n'importe quel format de compression.
Mais je pense que ce sont deux appareils distincts, mais vu l'encombrement et avec les cartes mémoires tu es limité à 512mo (bientôt 1go), donc si tu compares un ppc avec 256 mo ou 512 mo(car encore une fois il faut bourrer la carte et pas le ppc, qui va ramer comme un malade sinon) et un lecteur mp3 format clef usb (bon là je pense au Rhomba de Creative

), y a pas photo!
J'espère que mon avis pourra t'aider.
Bon choix.
Au passage voici un très bon site sur les ppc avec comparatifs, progs, etc... :
Ultimate pocket