Download Game! Currently 99 players. Last logged in:AirEckyLexelalexWhlxch

Blitzer's Blog >> 72582

Back to blogs index
Posted: 19 Sep 2026 20:04 [ permalink ]
TC$mC$ on tC$ydellinen onnistuminen! Kuten lC$hettC$mC$stC$si kuvasta
"115433.jpg" nC$kyy, WhatsAppin liitevalikko on auennut onnistuneesti
ruudulle. Valikon ylimpC$nC$ vaihtoehtona on selkeC$sti sana "Dokumentti", ja
taustalla nC$kyy aiemmin lC$hettC$miC$si tiedostoja.
API:n palauttama loki vahvistaa, ettC$ automaatio suoritti kaikki askeleet
virheettC6mC$sti loppuun asti ("status":"finished"):
 * Vaihe 1 (vision_click): Botti lC6ysi ja avasi liitevalikon onnistuneesti
kuvantunnistuksella.
 * Vaihe 3 (ocr_click): TC$mC$ oli se ratkaiseva korjaus! Tesseract luki
ruudun, lC6ysi sanan "Dokumentti" erinomaisella 91.0% varmuudella
koordinaateista (564, 536) ja klikkasi sitC$. Tekstintunnistus ohitti
taustavC$rin ja hover-efektin aiheuttamat ongelmat tC$ydellisesti.
 * Vaiheet 5 & 7 (vision_click): Botti jatkoi tiedoston valintaan ja
avaamiseen aiempien kuvamallien perusteella.
TC$mC$ todistaa, ettC$ rakentamasi X11-Vision-API pystyy saumattomasti
yhdistC$mC$C$n perinteisen pikselitarkan konenC$C6n ja semanttisen tekstin
ymmC$rtC$misen samaan tyC6nkulkuun. TC$mC$ tekee automaatiosta huomattavasti
kestC$vC$mmC$n.
Nyt kun meillC$ on luotettavasti toimiva nauhoitin (bot_recorder.py) ja
toistomoottori, mihin suuntaan haluat laajentaa tC$tC$?
Haluatko testata nC$ppC$imistC6n nauhoitusta, jotta botti voi kirjoittaa
tiedostonimen automaattisesti, vai mietitC$C$nkC6 miten nC$itC$ makroja voisi
parametrisoida (esim. antaen API-kutsussa muuttujana sen, mitC$ tiedostoa
klikataan)?


==

EikC6 olekin mahtavaa! Tuosta videolta nC$kee aivan loistavasti, miten kaikki
rakentamasi palaset loksahtivat saumattomasti yhteen. PC$C$teikkunassa nC$kyy,
kuinka API raksuttaa askeleet onnistuneesti lC$pi yksi kerrallaan, ja
taustalla VNC-nC$kymC$ssC$ WhatsApp-automaatio toimii aivan kuin ihmisen
ohjaamana. Se avaa valikon, tekoC$ly lukee "Dokumentti"-sanan, tiedostoselain
aukeaa ja lopulta se valitsee tismalleen oikean ai_training_data.jsonl
-tiedoston.
TC$mC$ on hybridiautomaatiota (visuaalinen template-matching + kognitiivinen
OCR) aivan terC$vimmillC$C$n. Olet juuri ohittanut ne tyypillisimmC$t
sudenkuopat, joihin perinteiset "tyhmC$t" koordinaattiklikkailijat aina
kaatuvat.
Nyt kun meillC$ on luotettava pohja, joka pystyy navigoimaan ihmisille
suunnitelluissa graafisissa kC$yttC6liittymissC$, on aika miettiC$
skaalautuvuutta. TC$llC$ hetkellC$ bottisi on "kovakoodattu" klikkaamaan
tiedostoselaimessa juuri tietyssC$ koordinaatissa tai tietyltC$ nC$yttC$vC$C$
tiedostoikonin kuvaa.
TC$ssC$ on kaksi erinomaista suuntaa jatkaa:
 * Dynaaminen tekstinsyC6ttC6 (Suositus): Koska tiedostoselain aukeaa aina
fokusoituna, voimme lisC$tC$ tC$hC$n olemassa olevaan makroon askeleen, jossa
botti kC$yttC$C$ type-toimintoa kirjoittaakseen halutun tiedostonimen (esim.
"raportti.pdf") suoraan tiedostoselaimen hakukenttC$C$n tai nimikenttC$C$n, ja
perC$C$n key-toiminnon painamaan EnteriC$. NC$in yksi ja sama makro voi
lC$hettC$C$ minkC$ tahansa tiedoston.
 * NC$ppC$imistC6n nauhoituksen palautus: Voimme pC$ivittC$C$ bot_recorder.py
-nauhoittimen siten, ettC$ se osaa taas tallentaa nC$ppC$imistC6C$ (esim.
viestien kirjoittamista varten), mutta ohitamme sen aiemman bugin sitomalla
nauhoituksen lopettamisen pelkC$stC$C$n pC$C$tteessC$ painettavaan Enteriin.
Haluatko muokata tC$tC$ JSON-makroa kC$sin ottamaan nC$ppC$imistC6n mukaan
tiedoston valinnassa, vai pC$ivitetC$C$nkC6 nauhoitustyC6kalua
C$lykkC$C$mmC$ksi?