O que é a memória unificada
Num computador clássico, o processador tem a sua memória e a gráfica a sua, e um modelo tem de caber na da gráfica. Num processador com memória unificada, os dois partilham os mesmos 64 ou 128 GB com uma largura de banda alta: a gráfica integrada pode usar quase toda essa memória para o modelo. O resultado é um equipamento de 10 litros, silencioso e de baixo consumo, que executa modelos que não cabem numa gráfica de 16 ou 24 GB.
Para que serve
Para assistentes privados que resumem, redigem e procuram nos documentos da empresa; para modelos de linguagem de 30 a 70 mil milhões de parâmetros, quantizados, que respondem à velocidade de leitura; para modelos de visão e de voz sem ligação; e para desenvolvimento e testes antes de passar para um servidor. Tudo sem que os dados saiam da empresa e com o consumo de um portátil grande.
Para que não serve
Para treinar modelos ou para servir muitas pessoas ao mesmo tempo: aí mandam a potência de cálculo e a largura de banda de uma gráfica dedicada, e a unificada fica várias vezes atrás. Nem para gerar imagens ou vídeo a ritmo de produção. Nesses casos, uma workstation com uma RTX PRO ou um servidor de IA.
Quanta memória é precisa
| Modelo | Memória que ocupa | Equipamento |
|---|---|---|
| 7 a 8 mil milhões de parâmetros | 6 a 8 GB | Qualquer equipamento com 16 GB ou uma gráfica de 8 GB |
| 14 a 32 mil milhões | 10 a 24 GB | 32 GB unificados ou uma gráfica de 24 GB |
| 70 mil milhões | 40 a 48 GB | 64 GB unificados |
| Vários modelos ao mesmo tempo ou um contexto muito longo | 64 a 100 GB | 128 GB unificados |
Deixe margem: o sistema, o contexto da conversa e os documentos carregados também ocupam memória.
O formato: 10 litros, silencioso e onde for preciso
Um compacto com memória unificada cabe numa secretária, num armário de bordo ou num móvel de receção, com alimentação de 12 a 24 V se for preciso e, na versão industrial, sem ventoinhas. Entregamo-lo com o sistema e o motor de inferência instalados, testado 24 horas, e com os modelos que escolherem carregados. O preço orçamenta-se conforme a memória e o formato.
Equipamento e guias relacionados
Perguntas frequentes
É mais lento do que uma gráfica dedicada?
Em velocidade de resposta de um só utilizador com um modelo que cabe nos dois, a gráfica dedicada é mais rápida. A vantagem da unificada é que executa modelos que não cabem numa gráfica de 16 ou 24 GB, com muito menos consumo e ruído.
Quantas pessoas a podem usar ao mesmo tempo?
Umas poucas. Está pensado para uma equipa pequena ou um posto, não para servir toda a empresa. Para dezenas de utilizadores, um servidor de IA com gráfica dedicada.
Que modelos posso executar?
Modelos abertos de linguagem, visão e voz, quantizados: com 64 GB, modelos até 70 mil milhões de parâmetros; com 128 GB, vários ao mesmo tempo ou contextos muito longos. Deixamo-los carregados e testados.
Pode ir num barco ou num veículo?
Sim. A versão industrial é sem ventoinhas, funciona a 12 a 24 V, está ensaiada à vibração e cabe em armários de pouco fundo.
Onde vai trabalhar o seu computador?
Diga-nos o sítio, a alimentação que há e o que tem de fazer. Propomos-lhe o equipamento compacto, com ensaios e preço, em menos de 12 horas úteis.