The Compass yhdistää prosessiohjauksen, rakenteisen case staten, deterministiset säännöt, AI-pohjaisen luokittelun ja reitityksen, rajatut LLM-tehtävät sekä ulkoisen tiedonhaun ohjatuksi workflow’ksi.

Workflow määrittää prosessin vaiheen, käytettävissä olevan tilan, sallitut seuraavat siirtymät ja sen, missä kohdissa LLM:ää, determinististä logiikkaa tai ulkoista tietoa käytetään. Seuraava vaihe määräytyy case staten, käyttäjän uusien syötteiden ja valintojen, ulkoisista tietolähteistä saadun evidenssin sekä workflow’n determinististen ehtojen ja rajattujen LLM-tulkintojen perusteella.

Käyttäjän syötteistä ja järjestelmän tuottamasta tiedosta muodostetaan prosessin aikana rakenteinen case state, jota seuraavat vaiheet lukevat ja täydentävät. Näin tieto kumuloituu saman casen sisällä ja sitä voidaan käyttää sekä prosessin ohjaukseen että lopullisen handoffin muodostamiseen.

Workflow ohjaa prosessia

Workflow määrittää prosessin etenemisen ja sen, mitä kukin vaihe saa tehdä. Se erottaa prosessiohjauksen yksittäisten AI-kutsujen toiminnasta.

• missä vaiheessa case on
• mitä tietoa vaiheessa tarvitaan
• mitä tietoa on jo käytettävissä
• mitkä siirtymät ovat sallittuja
• missä kohdassa käytetään determinististä logiikkaa
• missä kohdassa kutsutaan kielimallia
• missä kohdassa ulkoista tietoa käytetään
• milloin vaihe tai koko selvitys voidaan päättää.

Eteneminen mukautuu prosessin aikana case-tilan perusteella. Seuraava vaihe määräytyy case staten, käyttäjän uusien syötteiden ja valintojen, ulkoisista tietolähteistä saadun evidenssin sekä workflow’n determinististen ehtojen ja rajattujen LLM-tulkintojen perusteella.

Näin sama lähtöhavainto voi johtaa erilaisiin jatkokysymyksiin, tiedonhakuihin ja etenemispolkuihin sen mukaan, mitä tilanteesta prosessin aikana selviää.

Structured case state toimii yhteisenä tilana

Käyttäjän syötteistä, valinnoista ja prosessin aikana muodostuvasta tiedosta rakennetaan rakenteinen case state.

Se toimii workflow’n eri vaiheiden yhteisenä tilana. Yksittäiset LLM-kutsut lukevat niille sallitun kontekstin samasta rakenteisesta casesta ja palauttavat tuloksensa takaisin prosessin hallittavaksi.

Case state mahdollistaa tiedon alkuperän ja statuksen erottamisen. Käyttäjän havainto, käyttäjän vahvistama toimenpide, järjestelmän tulkinta, ulkoisesta lähteestä saatu tieto ja käyttäjälle annettu ohje ovat eri tietotyyppejä eikä niitä käsitellä keskenään samanarvoisina faktoina.

Rakenteinen tila mahdollistaa myös sen, että jo selvitetty tieto voidaan lukita ja hyödyntää myöhemmissä vaiheissa ilman tarpeetonta uudelleenselvittämistä.

AI-pohjainen luokittelu ja reititys ohjaa rajattuja päätöksiä

Kaikki AI-tehtävät eivät ole tekstin tuottamista. Osassa workflow’ta AI tekee rajatun semanttisen päätöksen ennalta määritellystä vaihtoehtoavaruudesta, esimerkiksi luokittelee tilanteen tai valitsee sille oikean jatkoreitin.

Päätöksen mahdolliset lopputilat, syötteet ja jatkotoimet määritellään workflow’ssa. AI ei tällöin päätä koko prosessista, vaan suorittaa yhden rajatun tehtävän osana sitä.

LLM suorittaa rajattuja tehtäviä

Kielimallia käytetään constrained LLM tasks -periaatteella. Malli ei omista koko prosessia, vaan saa workflow’lta rajatun tehtävän ja sitä varten tarvittavan kontekstin.

LLM voi esimerkiksi:

• tulkita arkikielistä syötettä rakenteiseksi tiedoksi
• muodostaa seuraavan vaiheen tarvitsemia kysymyksiä annetun case staten ja sääntöjen perusteella
• tulkita käyttäjän vastauksia
• yhdistää sallittua kontekstia tilannekuvaksi
• muodostaa rakenteisesta tiedosta käyttäjälle tai vastaanottajalle tarkoitettua luonnollista kieltä.

LLM:n tehtävä ja käytettävissä oleva konteksti määräytyvät workflow’n kyseisen vaiheen perusteella.

Deterministinen logiikka rajaa toimintaa

Niissä kohdissa, joissa käyttäytymisen pitää olla ennustettavaa, järjestelmä käyttää deterministisiä sääntöjä, validointeja ja guardraileja.

Niillä voidaan esimerkiksi:

• estää kielletty siirtymä
• lukita jo selvitetty fakta
• tarkistaa vaaditun tiedon olemassaolo
• rajoittaa sallittuja lopputiloja
• validoida LLM:n tuottaman rakenteen muoto
• ohjata kiireellisyys-, vastuu- tai muuta sääntöpohjaista logiikkaa määritellyissä kohdissa.

Deterministinen logiikka ja LLM suorittavat eri tehtäviä saman workflow’n sisällä. Deterministinen kerros hallitsee niitä ehtoja, joiden pitää toteutua yksiselitteisesti, ja LLM niitä tehtäviä, joissa tarvitaan semanttista tulkintaa.

Ulkoinen tieto on hallittu osa arkkitehtuuria

Järjestelmä käyttää verkkohakuja ja muita hallittuja ulkoisia tietolähteitä workflow’n määrittämissä kohdissa.

Ulkoista tietoa voidaan käyttää esimerkiksi valmistajien ohjeiden, laite- ja vikakooditiedon, vastuunjaon, palvelukanavien, häiriötiedon sekä taloyhtiön omien ohjeiden, asiakirjojen ja järjestelmätietojen hyödyntämiseen.

Ulkoinen tieto ei siirry suoraan prosessin totuudeksi. Sen alkuperä säilytetään erillään käyttäjän antamista havainnoista ja järjestelmän omista tulkinnoista.

Haussa löytyvä evidenssi voi täydentää case statea, vaikuttaa seuraavaan etenemisvaiheeseen ja toimia myöhempien vaiheiden kontekstina.

Handoff muodostetaan samasta case statesta

Prosessin aikana kertynyt rakenteinen case state toimii myös lopputuloksen perustana.

Käyttäjälle muodostettava tilannekuva, ohjaus ja vastaanottajalle muodostettava handoff rakennetaan saman prosessin aikana kertyneestä tiedosta.

Handoff voi sisältää erikseen esimerkiksi:

• käyttäjän vahvistetut havainnot
• relevantit poissuljetut havainnot
• käyttäjän tekemät tai vahvistamat toimet
• ulkoisista lähteistä saadun relevantin tiedon
• järjestelmän muodostaman yhteenvedon
• prosessin määrittämän luokituksen tai etenemistiedon.

Näin prosessin aikana selvitetty tieto voidaan siirtää seuraavalle toimijalle rakenteisesti ja käyttökelpoisessa muodossa.

AI- ja runtime-moottorit

Workflow käyttää eri vaiheissa tehtävään soveltuvia suoritusmoottoreita. Nykyisessä toteutuksessa niitä ovat deterministinen sovellus- ja workflow-logiikka, AI-pohjaiset päätös- ja reititysmoottorit, rajatut LLM-tehtävät, verkkohaku sekä rakenteisen case staten käsittelyyn, validointiin ja välimuistiin liittyvät komponentit.

TC ei ole sidottu yhteen malliin. Mallin pitää ansaita paikkansa tehtäväkohtaisesti.

Nykyisessä tuotannossa TypeSafe AI:n Jeviä käytetään rajatussa semanttisessa reitityksessä, jossa mahdollinen vastausavaruus on ennalta määritelty. GPT-6 Lunaa ja GPT-5.6 Lunaa käytetään workflow’n eri vaiheissa tehtäväkohtaisesti niissä tehtävissä, joissa tarvitaan semanttista tulkintaa tai luonnollisen kielen generointia.

Moottorin valinta ei ole osa case-logiikan pysyvää määritelmää. Sama workflow-rakenne voi käyttää eri tehtävissä eri AI-kyvykkyyksiä ilman, että palveluprosessin perusrakenne muuttuu.

AI-palvelujen datankäsittelyä voidaan rajata palvelu- ja provider-kohtaisilla tietosuojavaatimuksilla. Providerin datan säilytys- ja koulutuskäytännöt voidaan ottaa huomioon AI-palvelun ja reitityksen valinnassa.

Nykyinen tuotantoympäristö: deterministic workflow logic · structured case state · AI classification & routing · typesafe/jev-1.13 OpenRouterin kautta · gpt-6-luna ja gpt-5.6-luna OpenAI Responses API:n kautta · web retrieval · validation · cache layers