Download Game! Currently 71 players. Last logged in:DerfelLolzoIberiamsspWhisperluna

Blitzer's Blog >> 72609

Back to blogs index
Posted: 20 Sep 2026 17:50 [ permalink ]
Rakennetaan kerralla valmis Fuusio-skripti (master_parser.py), jota voit
testata heti. TC$mC$ skripti yhdistC$C$ aiemmin tekemC$si Layout-parserin
(AST) ja Semanttisen Agentin (CLIP) yhdeksi saumattomaksi putkeksi.
TC$mC$ on ohjelma, jolle syC6tC$t vain kuvan, ja se sylkee ulos valmiiksi
pureskellun, LLM-valmiin Markdown-kartan ruudusta  ikoneineen kaikkineen.
Testauksen askeleet
Tallenna alla oleva koodi nimellC$ master_parser.py. Voit ajaa sen samalla
tavalla kuin aiemmin, kun WhatsApp on auki ruudulla.


MitC$ tC$ssC$ testissC$ tapahtuu?
Koodi pilkkoo ruutusi tuttuun Frame_1_Sidebar ja Frame_2_Main -rakenteeseen
(jotta selaimen vC$lilehdet ignoroidaan).
Se ajaa OCR:n koko ruudun teksteille (OpenCV + Tesseract).
Se poimii kaikkien ikonien koordinaatit, ottaa niistC$ jokaisesta
minikuvakaappauksen muistissa ja ampuu ne kerralla paikallisen CLIPin lC$pi.
Se tulostaa sinulle tC$ysin luettavan Markdownin, josta nC$et vC$littC6mC$sti,
onko klemmari lC6ytynyt.
Testin huipennus (Miten simuloit kielimallia)
Kun skripti on valmis ja nC$et AST-MD listan pC$C$tteellC$si, toimi nC$in
testataksesi tekoC$lyn "kognitiota":
Maalaa ja kopioi koko tulostunut Markdown-teksti leikepC6ydC$lle.
Avaa uusi selainikkuna OpenAI:n ChatGPT:hen, Claudeen, Geminiin (tai lokaaliin
Llama3:een).
LiitC$ Markdown chattiin ja kirjoita sen perC$C$n tC$mC$ ohje:
"YllC$ on semanttinen kartta ruudustani. Haluan liittC$C$ tiedoston ja
lC$hettC$C$ sen WhatsApp-chatissa. MinkC$ ID:n koordinaatteihin minun pitC$C$
klikata liittC$C$kseni tiedoston? Perustele vastauksesi lyhyesti."
Tulet nC$kemC$C$n jotain maagista. Malli ymmC$rtC$C$ heti, ettC$ sen tC$ytyy
katsoa Frame_2_Main -aluetta, etsiC$ sieltC$ tekstiC$ kuten "kirjoita viesti"
ja poimia sen vierestC$ solmu, joka on merkitty a paperclip icon (99%). NC$et
itse, miten robusti tC$mC$ systeemi on verrattuna pelkkiin X/Y-koordinaatteihin
! Kokeillaanko?