Da floresta encantada para o mundo – Sr. Raposo e seu homelab

Meus queridos humanos, como é bom receber vocês aqui…

Bom, estreando essa nova casa para os pensamentos, papos aleatórios, nerdisses e sei lá mais o que desse raposo gordinho que vos falam, quero começar contando um pouco de como é sair de uma floresta encantada onde infra dá em árvore (bem, as árvores são recursos computacionais né) para um mundo onde que precisamos pagar (caro) pra se ter um pouco flops (operações em ponto flutuante) disponível para processar meia dúzia de dados…. Tá também não vamos dizer que é meia dúzia de dados né, o negócio é pegar aquele dataset 1GB+ e botar pra moer no pandas e….. Aaaa vou parar senão desvio do foco aqui!!!!

Bom, a questão é que aqui, se a gente precisa ter um sistema que não só processe seu dados em pandas, polars, spark, duckdb que seja, você vai precisar de recurso computacional seja físico ou na nuvem, e isso custa querendo ou não… não é questão de você chegar em um terminal mágico que chamamos de computador, fornecer a fonte de dados, construir a pipeline e o espírito da floresta cuida de orquestrar isso (com a ajuda das fadas) e disponibilizar árvores para o processamento! Aqui você precisa no mínimo de um PC (ou Mac) com CPU e RAM suficientes ou um recurso em nuvem que te permita processar seus dados. Fora que você tem que cuidar dos serviços/sistemas necessários para processamento, ingestão, armazenamento e orquestração né? E não é um computador positivo que vai ser suficiente em boa parte dos casos… a menos que você tenha um excel de 100 linhas como fonte ou as stats do Pokémon Trading Card Game (que pra ser sincero já tem dados suficientes que podem justificar um pequena pocinha de dados na nuvem)

E assim, o Sr. Raposo é bem humilde e sabe que ainda tem muito que aprender sobre tudo, e estudar pra ele vai além de ler algo e depois praticar em um notebook qualquer ou um laboratório limitado. Eu aprendo muito mais quando vou a fundo dos trecos e cacarecos (ou “tids and bits”) da tecnologia, isso quando não quero implementar algum algoritmo com minhas patinhas… e sabe, é legal nuvem, é legal AWS mas às vezes brincar com isso localmente é tão melhor… e por isso já tem um tempo que venho garimpando peças pra montar meu próprio servidorzinho de máquinas virtuais. E comecei como qualquer aspirante no mundo do homelab (sim é assim que chama o movimento, fandom de montar um servidor enterprise na tua toca ou no lugar que você chama de lar), comecei bem devagar com minha internet padrão fibra residencial, um roteador mais ou menos pra “pequenos negócios”, um AMD Ryzen 5 bem chinfrim e um sonho…

Mas passado fica no passado e agora o raposo garimpou o ferro velho de peças (também chamado Aliexpress) suficiente para elevar o nível da brincadeira. E também ele colocou as habilidades de inventor/construtor que ele tinha na floresta (construir dispositivos high-tech com casca de árvore, cristais e suco de fada… essa última parte aí foi meu erro, admito, e não, suco de fada não é feito de fada, mas é tão bom como cerveja e dá o mesmo rolê) para criar algumas coisas que poderiam facilitar e claro, se lá a gente tinha recursos minerais, cristais e produtos naturais pra construção, aqui a gente tem plástico e algo fantástico que derrete ele e molda como a gente quer chamado impressora 3D… e bem, esse raposo aqui meio que sabe modelar 3D né????

O fato é que eu e meu incrível companheiro guaxinim que também veio junto comigo para a terra de vocês passamos um tempo explorando as possibilidades das tecnologias antigas que hoje usamos muito para jogos mas que vieram das empresas. O mundo maravilhoso dos Intel Xeon e do chipset X99 que maravilhosamente suportou os primeiros Core i9 e uma série inteira, antiga, mas ainda muito boa de processadores Xeon em placas de uso comum, com memórias RAM sem correção de erro (ECC), que usamos nos nossos PCs atuais… e ah, quando o raposo descobriu que montar um servidor de 24 núcleos físicos mais barato que um PC com 8 núcleos, ai eu fiquei assim…

E ao longo do tempo fui conseguindo algumas peças e hoje tenho dois servidores bons suficientes pra colocar meu plano de cientista maluco, quer dizer, arquiteto de soluções pra funcionar. E depois de muito tempo brincando com algumas configurações eu realmente pensei melhor nesse plano: porque não compartilhar com meus queridos humanos um pouco de como funciona a floresta encantada? Ou seja, ao invés de usarmos algo como a floresta encantada, que tem tudo na mão, algo como um Databricks ou um Snowflake, porque eu não monto uma plataforma dessas, compartilho cada pedacinho do projeto explicando os problemas e soluções, direcionando em como instalar e compartilhando todo o código, e ainda de quebra não libero isso para alguns humanos selecionados para brincarem comigo nela?

Daí surgiu a ideia do Geek Fox DataLab (quase como a minha empresa, que não é mais MEI, então não sou mais CEO de MEI vale lembrar), ou como eu gosto de chamar carinhosamente ForestLake (o lago encantado da floresta onde armazenamos nossos dados)…

Então, já que falei demais, enrolei demais e mudei de foco demais (ah déficit de atenção….) vamos falar um pouco do meu homelab, ou melhor DataLab incrivelmente lindo, made by Mr. Fox!!!!

Como podem ver esse rack é o meu homelab, ou melhor, não é ele todo porque os equipamentos de rede principais, como o modem de fibra e o roteador “business” (ainda uso ele e atende tão bem), além de um switch ficam em um pequeno rack improvisado que imprimi aqui na prateleira do inventor (ela é bem creepy se você olha rápido então vou mostrar ela depois pra vocês). Mas aí eu tenho meus dois servidores, o Foxy (em minha homenagem claro) e o Raccoony (em homenagem ao meu querido guaxinim que me acompanha nas minhas ideias e eu nas dele já que mesmo ele sendo meu fiel companheiro e braço direito – ou esquerdo no meu caso – ele ainda está iniciando em aprender como navegar no mundo tecnológico de vocês então ele ainda é júnior de experiência aqui.)

O rack foi todo desenhado, modelado e impresso por mim e meus bebês Creality Ender 3 V3 CoreXZ e Creality Hi Combo (não são bebês reborn, mas impressoras 3D). A ideia era ter um móvel que pudesse mover de um lado pra outro facilmente, com os dois servidores, a parte da infra de rede que coubesse a eles, no caso duas VLANs e seus switches, e ainda que fosse modular para receber mais coisas no futuro… mas chega de falar sobre isso e vamos ao que interessa, configurações, peças e detalhes técnicos…. Ah a minha parte predileta disso tudo…

Rack e Impressão 3D

Pra começar, vamos falar do rack em si… esse carinha foi modelado usando o Autodesk Fusion 360, que é gratuito com algumas limitações, mas dá pra fazer qualquer desenho ou modelo técnico que precisar. A ideia era fazer algo bem simples mas funcional e sem me preocupar muito se ia ficar bonito ou não, mas olha, vou dizer que depois que montei eu achei incrivelmente lindo a coisa…

Pra esse rack, eu fiz o modelo de cada peça separada e depois dividi as peças em tamanhos que coubessem nas impressoras aqui. Para fixar as partes divididas, eu criei pequenas juntas para parafusar as peças juntas, além de usar cola de contato (Loctite 401). Priorizei em usar PLA de alta temperatura, mas não fiz o processo de cura já que não tenho um forno com temperatura controlada. Mesmo assim o PLA HT já é bem mais resistente que o PLA comum e já consegue ser menos sensível à temperatura. Mesmo assim, para fixar a placa mãe e componentes, usei uma base bancada de metal e desenhei os gabinetes dos servidores com base nela. Para a sustentação (colunas e pés) usei PETG que é naturalmente bem mais resistente que o PLA e também o PLA HT. Mas, como cada 4 colunas demoravam aproximadamente 20h para serem impressas em velocidade razoavelmente rápida (mas mais lenta que o PLA devido às propriedades fluidodinâmicas do PETG), eu acabei usando preenchimentos bem mais esparsos que o normal. Era isso ou esperar quase 30h para cada bloco de colunas… mas no final, a resistência ficou bem adequada com o peso dos dois servidores.

“Ah raposo, mostra fotinha ai vai?” Ah sei que vocês querem ver como foi a montagem de tudo né? Então aproveitem a galeria….

O raposo ainda vai fazer alguns artigos especiais e bem direcionados sobre Impressão 3D…

Servidores

Vamos agora a configuração das crianças aqui… vamos começar com o menor de todos, o Raccoony:

• Motherboard – Machinist MR9A V1.0 X99
• Processador – Xeon E5-2650 v4
• Memória Corsair Vengeance LPX Kit 2x32GB 3200Mhz
• Memória Corsair Vengeance LPX Kit 2x16GB 3200Mhz
• SSD SATA Corsair Force 3 60GB que tinha de um computador antigo
• SSD SATA Kingston 480GB
• SSD XrayDisk 480GB
• NVMe Kingston 1TB NV2
• Fonte EVGA 400W (essa veio do AMD)
• Base Metal ATX (https://www.aliexpress.com/item/1005007491021258.html?spm=a2g0o.order_list.order_list_main.5.14b11802xZKFlX)
• CPU Air Cooler Rise Mode Storm 8 White

Tanto o Foxy quanto o Raccoony são servidores de virtualização (Hypervisor) Tipo 1, também chamados de Bare Metal. Eles usam como sistema o Proxmox, que é open-source mas com planos de suporte enterprise. A vantagem do Proxmox é que ele tem compatibilidade com virtualmente qualquer hardware e não é travadão como o VMWare ESXi, fora que pode ser usado de graça nas versões mais atuais sem problema nenhum.

No total o Raccoony opera com 24 vCPUs e 96GB RAM…

Já o Foxy…

• Motherboard – QIYIDA X99 C612 Dual CPU
• Processador – 2x Xeon E5-2698 v3
• Memória Corsair Vengeance LPX Kit 2x32GB 3200Mhz
• Memória Corsair Vengeance LPX Kit 2x16GB 3200Mhz
• 4x Memória Rise Mode Diamond 16GB 3200MHz
• NVMe Kingston NV2 1TB
• NVMe Kingston NV2 2TB 
• SSD SATA Kingston 
• HD SATA Seagate Barracuda 4TB 
• Fonte Corsair 750w RM750e 
• Base Metal E-ATX 
• 2x CPU Air Cooler TEUCER UT45 White

Aqui a consideração vai em dois pontos… o primeiro é que, por ser Dual CPU, ele é um E-ATX, mas também achei uma base de metal igual a do Raccoony pra ele. A fonte precisou ser bem maior e com certificação 80+, só essas fontes garantiam dois conectores EPS de 12V, para as CPUs. A outra consideração é: porque o raposo não usou 4 memórias Corsair de 32GB já que a placa em questão é quad-channel? A resposta é: porque ele é lerdo e só percebeu isso depois de montado… mas, acho que eu tive um pensamento lá há uns meses atrás que pode ter me motivado a fazer isso de forma inconsciente, que era deixar o Raccoony com mais memória pra poder rodar também serviços nele, até um K8s no caso… então agora com tudo montado, sistema instalado e VMs decididas quanto a recursos, não pretendo mudar pra ser sincero. Vai me dar algum problema? Na verdade não muito, já que a limitação de largura de banda não usando o quad-channel em um dos processadores (a placa possui 8 slots de memória, sendo quad-channel por CPU) vai apenas limitar quando estivermos usando aquele processador. Acho que posso ter problemas quando formos falar de GenAI e estudos sobre transformers e difusão, mas deixa pra falarmos depois, OK?

No final, o Foxy tem 64 vCPUs e 160GB RAM

Já que toquei no assunto, bem, claro que o Sr. Raposo, acadêmico do processamento de linguagem natural desde que veio pro mundo de vocês não ia perder a oportunidade de fazer os experimentos científicos dele em LLMs e modelos de difusão né? Claro, porque além de ensinar tudo pra vocês eu tenho o dever moral de mostrar pra todos que não precisa ser um ser humano, ou ter qualificação acadêmica alta para pesquisar e desenvolver a área. Além de mostrar para os “experts” na área, que as coisas vão muito além do RAG, database vetorial, MCP e outros termos fancy por aí… até porque no final de tudo, vamos ter matrizes, logits e probabilidade…

E para isso, já já bate na porta da minha toca as seguintes belezas:

• 2x GPU NVIDIA Tesla P4 8GM RAM
• GPU NVIDIA Tesla M40 12GB RAM

Agora, respondendo às perguntas dos “experts” por aí… o Sr. Raposo não é rico e mesmo essa brincadeira toda saindo bem caro como veremos a seguir, ela saiu caro, e o pobre raposo só tem dinheiro pra processadores Pascal e Maxwell… não tenho dinheiro pra Volta… Ampere, Turing? Ada??? NO WAY…. (pra referência uma Tesla V100, ou seja arquitetura Volta que já foi descontinuada, custa 30 mil reais sem imposto no nosso ferro-velho, quer dizer, Aliexpress. Te desafio pesquisar as placas da arquitetura Ada, as de série L).

Custos e valores…

Bom, então vamos falar dos custos que o raposo teve até agora, claro, o raposo construiu isso tudo aqui aos pouquinhos… claro que eu rushei nos últimos meses, principalmente com filamento e algumas peças finais de hardware, mas, foi um trabalho de raposinho estocando recurso para o inverno…

Rack

Filamento PLA

• 209,73g x 2 (R$22,86 x2) – Junções dois servidores
• 1,15 Kg (R$ 124,83) – Camada Network
• 2,86 Kg (R$ 311,91) – Servidor Raccoony
• 3,79 Kg (R$ 412,91) – Servidor Foxy

Filamento PETG

• 2,13 Kg (R$ 308,19) – Colunas e Pés

Diversos

• 100+ Parafusos M8x20mm Allen Cabeça Chata – R$ 25,89 kit com 10 (Mercado Livre)
• 2x Kit 20 Parafusos M8x50mm Allen Cabeça Cilíndrica – R$48,13 x2 (Mercado Livre)

Fans

• 4x Fan Rise Mode Wind W1 120mm – Vermelha – R$ 8,22 (kabum)
• 4x Fan Rise Mode Wind W1 120mm – Branca – R$ 11,75 (kabum)

Raccoony

• Motherboard – Machinist MR9A V1.0 X99 – R$ 334,82 + R$166,43 tax (aliexpress)
• Processador – Xeon E5-2650 v4 – R$ 48,99 + R$21,91 tax (aliexpress)
• Memória Corsair Vengeance LPX Kit 2x32GB 3200Mhz – R$ 799,99 (kabum)
• Memória Corsair Vengeance LPX Kit 2x16GB 3200Mhz – R$ 449,99 (kabum)
• SSD SATA Corsair Force 3 60GB antigo (PC velho)
• SSD SATA Kingston 480GB – R$ 259,99 (kabum)
• SSD XrayDisk 480GB – R$97,99 + R$43,75 tax (aliexpress)
• NVMe Kingston 1TB NV2 – R$414,99 (kabum – valor do NV3)
• Fonte EVGA 400W – R$ 541,40 (Mercado Livre)
• Base Metal ATX – R$ 136,39 + R$61,11 tax 
• CPU Air Cooler Rise Mode Storm 8 White – R$ 185,99 (kabum)

Foxy

• Motherboard – QIYIDA X99 C612 Dual CPU – R$ 476,54 + R$297,91 tax (aliexpress)
• Processador – 2x Xeon E5-2698 v3 – R$110,30 + R$ 49,26 tax x2 (aliexpress)
• Memória Corsair Vengeance LPX Kit 2x32GB 3200Mhz – R$ 799,99 (kabum)
• Memória Corsair Vengeance LPX Kit 2x16GB 3200Mhz – R$ 449,99 (kabum)
• 4x Memória Rise Mode Diamond 16GB 3200MHz – R$ 199,99 x4 (kabum)
• NVMe Kingston NV2 1TB – R$414,99 (kabum – NV3)7
• NVMe Kingston NV2 2TB – R$940,32 (kabum – NV3)
• SSD SATA Kingston 240GB – R$ 308,52
• HD SATA Seagate Barracuda 4TB – R$ 704,00 (Mercado Livre)
• Fonte Corsair 750w RM750e – R$ 856,98 (Mercado Livre)
• Base Metal E-ATX – R$169,59 + R$75,66 tax
• 2x CPU Air Cooler TEUCER UT45 White – R$ 145,59 + R$65,00 tax x2 (aliexpress)

GPUs

• 2x Tesla P4 8GB RAM – R$ 626,99 + R$437,53 tax x2 (aliexpress)
• Tesla M40 12GB RAM – R$ 677,86 + R$ 484,75 tax (aliexpress)

Os valores acima são os valores atuais, portanto eu posso ter pagado mais barato em um produto ou outro ao longo do tempo (estou nesse garimpo desde 2023).

Mas… vou só colocar o total aqui pra dar uma ideia de quanto custou essa brincadeira toda:

Abaixo segue imagem da planilha detalhada

Ou seja, não é uma brincadeira barata senhores… e já estou pensando em vender pack de pata no OnlyFans pra ser sincero… bem, vocês amam elas, porque as pessoas por aí fora da nossa bolha não amariam… olha só pra essas belezas…

Voltando ao foco, sei que não é algo barato mas o melhor é ir devagar se for entrar nesse mundo do homelab. Começa com um Xeon bem básico, pouca memória… instala o proxmox e começa a estudar redes, sistemas operacionais e vai aos poucos pegando conhecimento. Se tiver um pouco de memória e boa quantidade de núcleos, já monta um K8s básico mesmo (próximo artigo será sobre ele) e vai aprendendo… eu garanto que as possibilidades são infinitas. Ah, e a grana tá curta pra comprar um Xeon? Pega aquele notebook antigo que tá parado, com 16GB de RAM e até 8GB já dá pra fazer muita coisa… instala um linux, docker e vai treinar docker compose por exemplo… é só o começo de muitas possibilidades…

E aqui meus queridos humanos, vamos seguir com nosso projeto hein… e o mais legal é que vamos fazer juntos e vai ser um prazer mostrar pra vocês um pedacinho do meu lar que tanto amo, minha querida floresta encantada dos dados…