Dos límites distintos
El primero es de usuarios: el modelo cabe y responde bien, pero con muchas personas a la vez la cola crece. El segundo es de tamaño: quieres un modelo mayor, o respuestas más rápidas con el mismo, y la memoria del equipo no da más.
Conviene saber cuál de los dos tienes antes de comprar nada.
Lo que sí resuelve sumar compactos
Varios compactos iguales, cada uno con su copia del modelo y un reparto de peticiones delante, atienden a más personas a la vez. Tres equipos atienden más o menos el triple. Además, si uno falla, los otros siguen: hay redundancia sin pagar un servidor doble.
Se crece por pasos, comprando otro equipo igual cuando hace falta, y se reparten por sedes si la empresa tiene varias.
Lo que no resuelve
Sumar equipos no hace un modelo más grande. Se puede repartir un modelo entre varios ordenadores por la red, y cabe, pero la red es mucho más lenta que la memoria y la respuesta se resiente. Para un modelo mayor hace falta un equipo con más memoria, no más equipos.
Cuándo toca un servidor con gráficas
Un servidor con gráficas NVIDIA atiende a muchos usuarios simultáneos sobre el mismo modelo, porque agrupa las peticiones y las procesa juntas. Es también el equipo para ajustar modelos con tus datos y para los programas que exigen CUDA. A cambio, consume más, hace más ruido y pide un armario rack o una sala.
| Opción | Qué da | Precio |
|---|---|---|
| 1 Compacto IA 64 | Un modelo grande para un equipo pequeño | 2.940 € |
| 3 Compactos IA 64 | El triple de usuarios y redundancia | 8.820 € |
| 1 Compacto IA 128 | Modelos mayores o varios modelos a la vez | 4.820 € |
| Servidor IA Rack, RTX PRO 4000 de 24 GB | Muchos usuarios sobre modelos medianos, en el rack | 6.407 € |
| Servidor IA Threadripper PRO, RTX PRO 6000 de 96 GB | Modelos grandes para toda la empresa, ampliable a tres gráficas | 32.578 € |
Cómo decidir
Si el problema es que sois más, y el modelo actual os vale, suma compactos. Si el problema es que el modelo se queda pequeño, pasa al de 128 GB. Si necesitáis las dos cosas, o entrenar, es el momento del servidor.
En muchas empresas conviven: el servidor en la sede y un compacto en cada delegación o a bordo.
Equipos y guías relacionados
Preguntas frecuentes
¿Puedo unir varios mini PC para ejecutar un modelo más grande?
Se puede, repartiendo el modelo por la red, pero la respuesta va mucho más lenta que en un solo equipo con la memoria suficiente. Para un modelo mayor compensa más un equipo con más memoria.
¿Cuántas personas atiende un compacto?
Depende del modelo y de cuánto lo usen. Como orientación, un compacto sirve bien a un equipo pequeño que lo consulta a ratos. Si muchas personas escriben a la vez, se nota la espera y conviene sumar equipos o pasar a gráfica dedicada.
¿Qué gasta más, tres compactos o un servidor?
Normalmente el servidor con gráficas, sobre todo trabajando. Los compactos llevan procesadores de bajo consumo. Si la energía o el ruido son un problema, pesan a favor de los compactos.
¿Se pueden mezclar compactos y servidor?
Sí, y es habitual: el servidor en la sede para los modelos grandes y el entrenamiento, y compactos en las delegaciones, en obra o a bordo, donde no hay rack ni conexión fiable.
¿Para qué lo vas a usar?
Cuéntanos qué modelos quieres mover, cuántas personas lo van a usar y dónde va a trabajar. Te proponemos el compacto, con o sin gráfica profesional, y su precio en menos de 12 horas laborables.