Vale. El PEX y el DHT déjalos activados, lo que hacen es buscar más pares, pero sólo valen para trackers públicos, si el tracker es privado, esa opción se desactiva para ese tracker (básicamente para no hacer de semilla con esos torrents fuera de dicho tracker privado). El LPD no lo actives, ya que dudo que haya más clientes bittorrent en tu red local.
Sobre los puertos tienes 2 opciones: o bien activar UPnP en tu router y usar el puerto que le salga de los huevos a transmission (yo lo uso así y le digo que use un puerto aleatorio en cada inicio), o bien le pones un puerto fijo y lo abres en el router. El protocolo Bittorrent suele usar el puerto 6881 para DHT. si quieres tenerlo fijo, abre ese puerto y el que te salga de las narices (y hayas configurado en transmission) en el router y ya está.