Pular para o conteúdo
Linux para todos os rolês
  1. Rolês e receitas
  2. Receitas
  3. IA local com Ollama

IA local com Ollama

Instala o Ollama oficial, conferido por SHA256, como um serviço que só este computador acessa, e baixa o modelo que o bora sugere para a máquina, se você quiser.

ia/ollama Risco médio Pede a senha de administrador Testada em máquina virtual no Ubuntu e no Debian
O bora mede a memória da máquina e confere cada modelo: os que cabem na placa de vídeo ou andam bem na memória, os que ficam devagar e os que não cabem. O melhor que roda bem vira a sugestão. bora modelos 32 GB de RAM, sem placa de vídeo qwen3:4b anda bem, só para conversar mimo-v2.6:9b agente, devagar qwen3-coder:30b agente, anda bem: sugestão qwen3.8:27b cabe, mas lento demais gpt-oss:120b não cabe
Ilustração. A sugestão é o modelo mais capaz que roda bem nesta máquina e dá conta de ser agente.

Em resumo

O que faz e o que não faz

O que faz

  • Instala o Ollama oficial, baixado do GitHub, com a soma SHA256 conferida antes de instalar.
  • Mede a máquina e sugere um modelo que cabe nela, pela RAM, pela memória da placa de vídeo e pelo disco livre.
  • Baixa o modelo sugerido, se você quiser, e o plano mostra qual é e quanto pesa antes de você aceitar.
  • Roda como um serviço que só este computador acessa, numa conta própria.

O que não faz

  • Não roda o instalador oficial, um script que se baixa e entrega direto ao shell.
  • Não abre a porta do Ollama para a rede da casa.
  • Não instala o driver da placa de vídeo NVIDIA: avisa quando ele falta.
  • Não passa por cima de um Ollama que você instalou de outro jeito.
  • Não guarda os modelos no desfazer: eles saem com a conta do serviço.

Passo a passo

Como o bora aplica esta receita

As mesmas quatro etapas de toda receita, com o que esta confere em cada uma.

  1. Verificar já está aplicada?

    Confere se o Ollama da versão da receita está em /opt/ollama, se o comando ollama aponta para ele, se a conta ollama e o serviço estão como a receita escreve e, com um modelo escolhido, se ele já foi baixado.

  2. Aplicar faz a mudança

    • Para, sem mudar nada, se já houver um Ollama que não veio do bora.
    • Baixa o arquivo do GitHub (e o do ROCm, numa placa AMD), confere a soma SHA256 e abre em /opt/ollama.
    • Cria a conta ollama e o serviço, que escuta só em 127.0.0.1:11434.
    • Com um modelo escolhido, roda ollama pull.
  3. Testar funcionou?

    Confere a versão, o serviço habilitado e só para este computador, que nenhuma porta do Ollama está aberta para a rede e que o modelo aparece no ollama list.

  4. Desfazer quando você pedir

    Para o serviço, apaga o Ollama, o link e o serviço, e remove a conta ollama com a pasta dos modelos.

No terminal

Uma aplicação de verdade

Como fica a aplicação no rolê Vibecodar, com o VS Code e o Ollama, numa máquina de 32 GB sem placa de vídeo, encurtada nas linhas do apt e do download.

Os porquês

Por que assim

Como o bora sabe o que cabe?

O modelo ocupa na memória o tamanho dele, mais 15% e mais 1,5 GB para a conversa. Se isso cabe na placa de vídeo, ele roda rápido. Se não, ele usa a RAM, deixando 3 GB para o sistema, e a velocidade depende de quantos parâmetros o modelo usa a cada palavra. Rode bora modelos para ver a conta da sua máquina.

Por que sem placa de vídeo dá para usar?

Os modelos “mixture of experts”, como o gpt-oss:20b e o qwen3-coder:30b, têm muitos parâmetros, mas usam só 3 ou 4 bilhões por palavra. Numa máquina com bastante RAM, eles andam bem até sem placa de vídeo.

E se a máquina for pequena?

Com menos de 16 GB, o bora sugere um modelo pequeno, que serve para conversar e tirar dúvidas, mas se perde como agente. Com 4 GB, não sugere nenhum. Aí o agente fica melhor com um modelo na nuvem, que é o que o resto do rolê já prepara.

Por que só este computador?

Sem senha nenhuma, quem alcança a porta do Ollama usa os seus modelos e a sua máquina. Servir os modelos para a casa vira outro rolê, com o firewall.

Como uso com um agente?

ollama launch opencode abre o OpenCode já usando o modelo local; também funciona com claude e codex.

Como

O que muda no sistema

Parâmetros

O que dá para escolher

ParâmetroPadrãoO que é
modelosugeridoQual modelo baixar? sugerido, para o bora escolher pela memória da máquina ({sugestao_de_modelo}), nenhum, para você baixar depois com ollama pull, ou o nome de um modelo, como qwen3:4b.

No menu, o bora pergunta o que precisa. Num script ou num agente, passe os parâmetros na linha de comando:
bora plano --receitas ia/ollama -p ia/ollama.modelo=auto

Confira você mesmo

Os comandos para conferir

bora modelosMostra os modelos que cabem nesta máquina e qual o bora sugere.
ollama run qwen3:4bConversa com um modelo no terminal.
ollama launch opencodeAbre o OpenCode usando o modelo local.
ss -ltn | grep 11434Mostra que o Ollama escuta só em 127.0.0.1.

Onde funciona

Distros e testes

UbuntuTestada em VMUbuntu, Mint, Pop!_OS, Zorin
DebianTestada em VMDebian 13
FedoraPlanejadaFedora, Nobara
ArchPlanejadaArch, CachyOS, EndeavourOS, Manjaro
Fedora imutávelPlanejadaBazzite, Silverblue, Kinoite
openSUSEPlanejadaTumbleweed, Leap

Registro de testes

DistroOndeDataResultado
Debian 13Máquina virtual09/11/2026Passou
Ubuntu 24.04Máquina virtual09/11/2026Passou
Ubuntu 26.04Máquina virtual09/11/2026Passou
Debian 13Contêiner (teste automático)09/11/2026Passou
Ubuntu 24.04Contêiner (teste automático)09/11/2026Passou
Ubuntu 26.04Contêiner (teste automático)09/11/2026Passou

Testada em contêiner: passou nos testes automáticos dessa família, que rodam num contêiner a cada pull request, sem kernel, disco nem tela de login de verdade. Testada em VM: além disso, foi aplicada, conferida e desfeita numa máquina virtual (VM) de verdade, o que o CI faz toda semana. O registro acima mostra a última vez de cada distro. Enquanto uma receita só tem o teste em contêiner, o bora avisa quando monta o plano. Testar numa máquina sua é uma das ajudas mais valiosas.

Onde ela entra

Rolês que usam esta receita

Fontes

Para ler mais

Bora melhorar

Falta alguma coisa?

Os pedidos viram issues no GitHub, onde qualquer pessoa pode comentar, votar com um 👍 ou se oferecer para fazer.