Download Game! Currently 98 players. Last logged in:WhlxchCordobaAirEcky

Blitzer's Blog >> 72584

Back to blogs index
Posted: 19 Sep 2026 20:35 [ permalink ]
Arkkitehtuurinen siirtymC$ dataohjattuun automaatioon vaatii taustalleen
jC$reC$n kognitiivisen moottorin. Kun haluat suorittaa pohjatason
pC$C$ttelyC$, semanttista analyysia ja tietokonenC$kC6C$ (OpenCV, Tesseract,
lokaalit Vision-LLM:t) tC$ysin offline-tilassa, ainoa merkittC$vC$ pullonkaula
on VRAM (nC$yttC6muisti) ja muistivC$ylC$n leveys.
TekoC$lymallien (kuten Llama 3:n tai visuaalisten mallien kuten LLaVA)
pyC6rittC$minen on muistirajoitteista tyC6tC$. TC$ssC$ on analyysi
optimaalisimmista tavoista rakentaa "Meshin Aivot" (Inference Server)
HAUKI-GEM LAB -ympC$ristC6C6si.
1. Optimaalisin Linux-tyC6juhta: "Kahden kortin arkkitehtuuri"
TC$mC$ on hinta-laatusuhteeltaan paras ratkaisu avoimen lC$hdekoodin
tekoC$lytutkimukseen ja RPA-orkestraatioon. Kahdella nC$ytC6nohjaimella saat
yhdistettyC$ VRAM-poolin, jolloin kone pystyy ajamaan sekC$ kognitiivista
kielimallia ettC$ visuaalista analyysiC$ samanaikaisesti.
 * GPU: 2 x NVIDIA RTX 3090 (24GB) tai 4090 (24GB). YhteensC$ 48GB VRAMia on
"sweet spot". SillC$ pyC6ritC$t raskaasti kvantisoitua Llama 3 70B -mallia tai
pidC$t useampaa pienempC$C$ (8B) mallia ja visuaalista mallia salamannopeasti
muistissa. RTX 3090 on usein paras valinta kC$ytettynC$ PCIe-vC$ylC$n ja
VRAM-mC$C$rC$n vuoksi. (Varoitus: ClC$ valitse AMD:n kortteja tC$hC$n;
AI-ekosysteemi nojaa vahvasti NVIDIAn CUDA-kirjastoihin).
 * Emolevy & CPU: AMD Threadripper tai Intel Xeon/Core i9, jossa on tarpeeksi
PCIe-linjoja (vC$hintC$C$n PCIe Gen4) pyC6rittC$mC$C$n kahta jC$reC$C$ GPU:ta
ilman pullonkauloja.
 * Keskusmuisti (RAM): 128 GB DDR5. Vaikka mallit pyC6rivC$t nC$yttC6muistissa,
 datan esikC$sittely (esim. isojen ruutukaappausten massiivinen
OpenCV-kC$sittely ja AT-SPI-puiden muistissa pitC$minen) vaatii nopeaa
keskusmuistia.
 * Tallennustila: 2TB+ PCIe Gen4/Gen5 NVMe SSD. Mallien painot (weights) ovat
kymmeniC$ gigatavuja. Jos joudut vaihtamaan makron analysointimallista
tekstinluontimalliin, levyn lukunopeus ratkaisee, odottaako robottisi 2
sekuntia vai 15 sekuntia.
2. "Musta hevonen": Apple Silicon (Mac Studio M2/M3 Ultra)
Vaikka automaatiosi X11- ja tyC6pC6ytC$puoli (kuten workstation-04) pyC6rii
vahvasti Debian-maailmassa, itse pC$C$ttelypalvelimeksi Apple on erittC$in
varteenotettava offline-vaihtoehto.
 * Unified Memory -arkkitehtuuri: Mac Studioissa (tai M-sarjan Max/Ultra
MacBookeissa) keskusmuisti ja nC$yttC6muisti ovat yhtC$ ja samaa (Unified
Memory). Jos tilaat Mac Studion 128 GB tai 192 GB muistilla, sinulla on 192 GB
VRAMia tekoC$lyn kC$ytC6ssC$.
 * HyC6ty: Pystyt pyC6rittC$mC$C$n massiivisia malleja (jopa yli 100 miljardin
parametrin malleja), joihin PC-puolella tarvittaisiin kymmenien tuhansien
eurojen datakeskuskortteja (esim. NVIDIA A100).
 * Rooli Mesh-verkossa: TC$mC$ kone ei pyC6ritC$ X11:tC$ eikC$ nauhoita
klikkauksia. Se pyC6rii headless-nodena jossain pC$in laboratoriota, ja
Debian-koneesi kutsuvat sen Ollama- tai vLLM-rajapintaa verkon yli silloin,
kun makro tC$ytyy "kC$C$ntC$C$" tai ruudun nC$kymC$ analysoida.
3. Kevyt Edge-Node (Paikallinen prosessointi)
Jos haluat, ettC$ sama fyysinen kone, joka ajaa automaatiota ja XFCE:tC$,
tekee myC6s tekoC$lypC$C$ttelyn ilman verkkopyyntC6jC$ toiselle koneelle:
 * 1 x NVIDIA RTX 4080 Super (16GB) tai 4090 (24GB).
 * 1624 GB VRAM riittC$C$ erinomaisesti nopeaan ja kevyeen Llama 3 8B -luokan
toimintaan sekC$ Tesseract-OCR/OpenCV-operaatioihin. Se ei riitC$ kovin
raskaiden, suurten kielimallien offline-analyysiin ilman hidasta
RAM-offloadingia.
Miten tC$mC$ kytkeytyy HAUKI-GEM -arkkitehtuuriin?
Rakentamasi jaottelu smart_recorder.py (datan kerC$ys) ja macro_compiler.py
(analyysi) mahdollistaa hajautetun jC$rjestelmC$n.
Optimaalisin rakenne laboratoriossasi olisi tC$mC$:
 * Sensori & Aktuaattori (workstation-04 ym.): Kevyet ja halvat Linux-koneet.
Ne ajavat vain Pythonia, pynputia, AT-SPI:tC$, OpenCV:tC$ (perus
hahmontunnistus) ja Tesseractia. NC$mC$ reagoivat millisekunneissa.
 * Kognitiivinen Solmu (Uusi offline-AI -kone): JC$reC$ kahden NVIDIAn GPU:n
mylly tai Mac Studio. Se ajaa vLLM:C$C$ tai Ollamaa.
 * TyC6nkulku: Kun smart_recorder.py tuottaa raw_events.jsonl -tiedoston,
kevyt kone lC$hettC$C$ tuon paketin Kognitiiviselle Solmulle. Solmun sisC$llC$
asuva VLM (esim. LLaVA) katsoo klikkauksen ympC$riltC$ otettua bitmap-kuvaa,
lukee AT-SPI -datan, pC$C$ttelee onko kyseessC$ tekstikenttC$, ikoni vai
satunnainen valikko, ja palauttaa takaisin valmiiksi "kC$C$nnetyn" JSON-makron
suoritettavaksi.
Haluatko lC$hteC$ suunnittelemaan tC$tC$ "Brain & Hands" -Mesh-rajapintaa
tarkemmalle API-tasolle, vai kiinnostaako sinua perehtyC$ siihen, mitC$
spesifejC$ open source -tekoC$lymalleja (kuten Moondream tai LLaVA)
tC$llaisessa Kognitiivisessa Solmussa kannattaisi offline-tilassa
pyC6rittC$C$?