Rakennetaan kerralla valmis Fuusio-skripti (master_parser.py), jota voit testata heti. TC$mC$ skripti yhdistC$C$ aiemmin tekemC$si Layout-parserin (AST) ja Semanttisen Agentin (CLIP) yhdeksi saumattomaksi putkeksi. TC$mC$ on ohjelma, jolle syC6tC$t vain kuvan, ja se sylkee ulos valmiiksi pureskellun, LLM-valmiin Markdown-kartan ruudusta ikoneineen kaikkineen. Testauksen askeleet Tallenna alla oleva koodi nimellC$ master_parser.py. Voit ajaa sen samalla tavalla kuin aiemmin, kun WhatsApp on auki ruudulla. MitC$ tC$ssC$ testissC$ tapahtuu? Koodi pilkkoo ruutusi tuttuun Frame_1_Sidebar ja Frame_2_Main -rakenteeseen (jotta selaimen vC$lilehdet ignoroidaan). Se ajaa OCR:n koko ruudun teksteille (OpenCV + Tesseract). Se poimii kaikkien ikonien koordinaatit, ottaa niistC$ jokaisesta minikuvakaappauksen muistissa ja ampuu ne kerralla paikallisen CLIPin lC$pi. Se tulostaa sinulle tC$ysin luettavan Markdownin, josta nC$et vC$littC6mC$sti, onko klemmari lC6ytynyt. Testin huipennus (Miten simuloit kielimallia) Kun skripti on valmis ja nC$et AST-MD listan pC$C$tteellC$si, toimi nC$in testataksesi tekoC$lyn "kognitiota": Maalaa ja kopioi koko tulostunut Markdown-teksti leikepC6ydC$lle. Avaa uusi selainikkuna OpenAI:n ChatGPT:hen, Claudeen, Geminiin (tai lokaaliin Llama3:een). LiitC$ Markdown chattiin ja kirjoita sen perC$C$n tC$mC$ ohje: "YllC$ on semanttinen kartta ruudustani. Haluan liittC$C$ tiedoston ja lC$hettC$C$ sen WhatsApp-chatissa. MinkC$ ID:n koordinaatteihin minun pitC$C$ klikata liittC$C$kseni tiedoston? Perustele vastauksesi lyhyesti." Tulet nC$kemC$C$n jotain maagista. Malli ymmC$rtC$C$ heti, ettC$ sen tC$ytyy katsoa Frame_2_Main -aluetta, etsiC$ sieltC$ tekstiC$ kuten "kirjoita viesti" ja poimia sen vierestC$ solmu, joka on merkitty a paperclip icon (99%). NC$et itse, miten robusti tC$mC$ systeemi on verrattuna pelkkiin X/Y-koordinaatteihin ! Kokeillaanko?