# 6 dicas: como as empresas operam modelos de linguagem de IA em hardware próprio

Comunicado de imprensa da agência de IA Iphos de 09.11.2026: a memória decide se um modelo de linguagem funciona, o fluxo de trabalho a que velocidade – seis dicas sobre modelo, máquina, custos e local de instalação.

<https://searchit-agent.ai/unternehmen/pr/6-tipps-so-betreiben-unternehmen-ki-sprachmodelle-auf-eigener-hardware/>

*Viena, 9 de novembro de 2026*

A memória decide se um modelo funciona – o fluxo de trabalho, a que velocidade

**(Viena, 9 de novembro de 2026)** Com o hardware adequado, empresas, escritórios de advogados e organismos públicos operam modelos de linguagem de IA nas suas próprias instalações. A questão da operação própria é importante por duas razões: os dados ficam dentro de casa e, com uma utilização contínua, a fatura pode ser mais baixa do que com a utilização através de uma interface de programação (API). A máquina certa depende menos do tamanho do modelo do que do fluxo de trabalho, e este está a mudar neste momento: uma pergunta curta num chat tem poucas palavras. Um agente de IA, pelo contrário, lê em cada passo de trabalho 10 000 a 30 000 tokens de resultados de pesquisa e excertos de documentos; os tokens são as unidades de texto com que os modelos de linguagem calculam. As seis dicas seguintes mostram aos responsáveis de TI como ajustar modelo e máquina, quando compensa comprar e onde o equipamento fica melhor. Baseiam-se em medições publicadas, preços atuais e um exemplo de cálculo com 500 000 documentos.

## 1. Escolher primeiro o modelo, depois a máquina

Um modelo de linguagem é composto por milhares de milhões de valores numéricos aprendidos, os parâmetros. Para que possa ler textos e escrever respostas, estes valores têm de estar integralmente numa memória rápida, diretamente junto ao chip de cálculo. Numa workstation, é a memória da placa gráfica, a memória de GPU (VRAM); no Mac Studio e nas caixas de IA, o processador e a parte gráfica partilham uma memória comum. Se o modelo não couber, não pode ser operado de forma útil.

O espaço necessário depende do tamanho e do formato de armazenamento. Um modelo com cerca de 26 mil milhões de parâmetros ocupa, na versão de 4 bits, que guarda cada valor de forma compacta e um pouco menos precisa, cerca de 16 gigabytes de memória de GPU, e na versão de 8 bits cerca de 26 gigabytes. Além disso, cada pedido em curso precisa de uma cache na qual o modelo regista o que já leu. Quanto mais longos os textos e quanto mais pedidos correm em simultâneo, mais espaço ocupa. Numa placa gráfica com 96 gigabytes de memória de GPU ficam livres, ao lado do modelo de 8 bits, cerca de 70 gigabytes para esta cache; numa placa com 48 gigabytes, cerca de 20. Que modelos de pesos abertos (open weights), ou seja, cujos ficheiros estão disponíveis publicamente, funcionam em que placa gráfica e quanto custaria utilizá-los através de uma interface é o que mostra um portal de comparação gratuito, cuja ligação se encontra abaixo.

«A pergunta sobre a memória de GPU é a primeira pergunta certa, mas é apenas a primeira», afirma Ing. Christoph Wendl, CEO do searchit. «Quem compra hardware para o seu próprio fluxo de trabalho, e não para o maior modelo de que toda a gente fala neste momento, obtém mais desempenho pelo seu orçamento.»

## 2. Ter em conta o comprimento das entradas

Um modelo de linguagem trabalha em dois passos, e cada um coloca exigências diferentes ao hardware. Na leitura, processa toda a entrada de uma só vez. É uma tarefa de cálculo grande, por isso aqui conta a capacidade de cálculo do chip gráfico. Na escrita, gera a resposta token a token e, para isso, lê de cada vez os seus parâmetros da memória. Aqui conta a largura de banda da memória, ou seja, a rapidez com que os dados chegam da memória ao chip.

Numa pergunta curta de chat, a leitura demora frações de segundo; espera-se sobretudo pela escrita. Com documentos e agentes, a leitura torna-se o estrangulamento. Para 20 000 tokens, o cálculo dá cerca de 0,6 segundos numa RTX PRO 6000, 1,2 segundos numa RTX PRO 5000 e, grosso modo, 3 a 12 segundos num Mac Studio M5 Ultra. Como um agente dá vários destes passos por pergunta, estes tempos somam-se.

## 3. Planear desde o início os pedidos simultâneos

Uma pessoa no chat, dez colegas com um agente e um lote de 500 000 documentos são três cargas diferentes, e cada uma exige hardware diferente. Para poucos utilizadores com perguntas curtas, basta um Mac Studio (6 599 euros com 96 gigabytes) ou uma caixa de IA da classe DGX Spark (4 900 a 6 900 euros). Ambos funcionam silenciosamente em cima da secretária.

Se muitos colegas ou vários agentes tiverem de trabalhar em simultâneo, uma workstation com RTX PRO 6000 (cerca de 22 200 euros) mostra a sua força. O software vLLM agrupa aí muitos pedidos e faz com que a placa gráfica os processe em conjunto: foram medidos 125 pedidos simultâneos com 18 tokens por segundo cada. No Mac, o agrupamento, medido com o software llama.cpp, só ajuda na escrita. Aí as entradas longas são lidas praticamente uma após a outra, pelo que os pedidos esperam uns pelos outros.

## 4. Verificar os benchmarks no próprio fluxo de trabalho

Os benchmarks são testes de desempenho padronizados, e os seus valores só valem para as condições do teste. A ferramenta de medição generalizada llama-bench trabalha, sem outras indicações, com 512 tokens de entrada, 128 tokens de saída e um único pedido. Isso diz pouco sobre um agente que lê 20 000 tokens e corre ao lado de outros pedidos. Significativos são os valores com o próprio comprimento de entrada e com tantos pedidos simultâneos como em operação.

A versão do software também conta: num Mac Studio M3 Ultra, a leitura de 8 192 tokens desceu, após uma atualização do llama.cpp, de cerca de 2 106 para 1 183 tokens por segundo, com o mesmo hardware e o mesmo modelo. O mais fiável continua, por isso, a ser a medição própria com o modelo previsto e entradas típicas.

## 5. Antes de comprar, fazer as contas à interface e ao aluguer

Um modelo de linguagem não tem de funcionar em hardware próprio. Através de uma interface de programação pode também ser utilizado num fornecedor, sendo então faturado por tokens processados. Para um grande lote pontual, isto é quase sempre mais barato. É o que mostra um exemplo com 500 000 documentos, cada um com 7 500 tokens de entrada e 1 500 tokens de saída, e o modelo Gemma 4 26B A4B: com as ofertas mais baratas com processamento na UE, o processamento custa 600 a 850 euros, uma workstation adequada 13 500 a 22 200 euros.

O hardware próprio compensa quando trabalha de forma contínua, porque se amortiza também quando está parado. Com plena utilização durante 36 meses e um preço da eletricidade de 0,30 euros por quilowatt-hora, 1 000 documentos custam numa RTX PRO 6000, pelo cálculo, cerca de 0,18 euros, e através da interface 1,20 a 1,70 euros. Se a workstation só funcionar oito horas por dia, o seu custo por documento aproximadamente triplica. Também onde os dados não devem sair de casa, por exemplo em profissões sujeitas a sigilo profissional, o hardware próprio é a escolha natural. Entre ambos fica o aluguer: centros de dados europeus oferecem uma RTX PRO 6000 a partir de cerca de 1,25 euros por hora, sem compra e com as mesmas vantagens nos pedidos simultâneos.

## 6. Pensar desde o início no local de instalação

A eletricidade que uma placa gráfica consome devolve-a sob a forma de calor, e as suas ventoinhas têm de dissipar esse calor. Por isso, a questão do ruído e do calor residual vem antes da compra. Uma caixa de IA com cerca de 160 watts em carga e, no máximo, 37,5 dB(A) medidos a 46 centímetros de distância pode ficar no posto de trabalho. Uma workstation com RTX PRO 6000, pelo contrário, deve ficar numa sala contígua com entrada de ar: a placa consome até cerca de 530 watts, o calor residual corresponde a um termoventilador na potência mínima, e a norma alemã para locais de trabalho ASR A3.7 indica para escritórios de uma ou duas pessoas um valor de planeamento de 40 dB(A).

A funcionar 24 horas por dia, a eletricidade custa cerca de 1 970 euros por ano. A variante Max-Q funciona com 300 em vez de 600 watts, custa cerca de 1 180 euros de eletricidade e, segundo as medições, trabalha com modelos de linguagem 13 a 19 por cento mais devagar. Para processamentos de vários dias, recomenda-se uma fonte de alimentação ininterrupta, para que uma breve falha na rede elétrica não interrompa todo o processamento.

Mais informações sobre o artigo «Hardware para LLM locais»: [www.searchit-enterprise-search.com/hardware-lokale-llm](https://www.searchit-enterprise-search.com/hardware-lokale-llm/)

Mais informações sobre o searchit Models – operação própria: [models.searchit-agent.ai/selbst-betreiben](https://models.searchit-agent.ai/selbst-betreiben/), calculadora de custos: [models.searchit-agent.ai/werkzeuge/kostenrechner](https://models.searchit-agent.ai/werkzeuge/kostenrechner/)

Mais informações sobre o searchit AI Agent: [searchit-agent.ai](https://searchit-agent.ai/)

## Sobre o searchit: agentes de IA para empresas

Com o searchit, o conhecimento de uma organização torna-se a memória da sua IA. O searchit AI Agent conhece os seus dados (e-mails, documentos, etc.) e trabalha com eles. Assim, o agente torna-se um colaborador digital. A tecnologia assenta na longa experiência do searchit como plataforma de pesquisa empresarial, utilizada por numerosos clientes como a Samsung, a TÜV, o Technisches Museum Wien e a autoridade digital da Baviera. O searchit é desenvolvido pela Iphos IT Solutions GmbH, com sede em Viena. O seu laboratório de IA interno desenvolve continuamente as funções de IA da plataforma. Ing. Christoph Wendl dirige, juntamente com Lyubomir Ivanov, como Chief Executive Officer, a empresa fundada em 1998.

## Contacto para a imprensa

- Ing. Christoph Wendl, diretor-geral, Iphos IT Solutions GmbH
- Khekgasse 35, 1230 Viena, Áustria
- Tel.: +43 1 869 84 00
- E-mail: [info@searchit.cc](mailto:info@searchit.cc)

- [Comunicado em PDF (alemão)](https://searchit-agent.ai/unternehmen/pr/6-tipps-so-betreiben-unternehmen-ki-sprachmodelle-auf-eigener-hardware/20261109-presseaussendung-hardware-llm.pdf)

---

- searchit AI Agent: <https://searchit-agent.ai/>

Esta versão é gerada a partir dos ficheiros de idioma da página (scripts/gen-unternehmen.py). Prevalece a própria página.
