Vale la pena una 5070 para ejecutar inteligencia artificial

[JesusFranxo]

Hola muchachos desde que inicio el año he estado ahorrando para comprar una gráfica mi objetivo es diseñar y entrenar modelos de IA, machine learning y poder correr LLM en local no tengo un computador dedicado y quiero invertir en uno pero estoy evaluando opciones de GPU en quedarme con una 3060 de 12G o esta 5070 de 12 también alguien me puede ayudar a resolver si la 5070 es una buena opción para ejecutar IA?

 

[Josep83]

Muy buenas compañero.

Desconozco bastante el tema IA.
Pero imagino que aunque ambas GPUs tengas la misma VRAM, los núcleos dedicados de la RTX 5070 serán mejores que los de la RTX 3070.

Aunque no te sabría decir a ciencia cierta si realmente merece la pena el cambio.

Saludos.

 

[chapuzitas]

Hola muchachos desde que inicio el año he estado ahorrando para comprar una gráfica mi objetivo es diseñar y entrenar modelos de IA, machine learning y poder correr LLM en local no tengo un computador dedicado y quiero invertir en uno pero estoy evaluando opciones de GPU en quedarme con una 3060 de 12G o esta 5070 de 12 también alguien me puede ayudar a resolver si la 5070 es una buena opción para ejecutar IA?

Buenas,
si tu idea es usar tecnologías como pytorch, tensorflow, keras.. para redes neuronales, ML, DL y demás cuantos más GB tenga la gpu mejor y moderna para versiones actuales de dichas tecnologías.

También te vale para usar LLM en local.

Un saludo

 

[JesusFranxo]

Muchas gracias por sus respuestas, solo para profundizar un poco mas pienso usar Keras, Tensorflow mi idea es crear redes neuronales para deep learning, pero quiero asegurar invertir en algo que si funcione con limitantes pero que funcione