Robin Aro, Head of Services
Forrest Gumpin äidin kuuluisa ajatus suklaarasiasta sopii yllättävän hyvin tekoälyn kuvaamiseen: “Tekoäly on kuin suklaarasia. Et koskaan tiedä, mitä saat.” Käyttäjä antaa tehtävän, mutta ei oikeasti tiedä, mitä lopulta saa — eikä varsinkaan sitä, kuinka paljon resursseja käytettiin ja kuinka paljon vastaus tulee maksamaan.
Yrityskäytössä tämä muuttuu nopeasti käytännön kysymykseksi. Kun tekoäly viedään sovelluksiin, asiakaspalveluun, sisäisiin työkaluihin tai päätöksenteon tueksi API:n kautta, jokaisella pyynnöllä alkaa olla yksikkökustannus. AI ei ole enää vain käyttöliittymässä näkyvä vastaus, vaan taustalla toimiva tuotantokapasiteetti.
Tekoälypalveluissa kustannus syntyy käytännössä tokeneista. Tokenit ovat tekstin, ohjeiden, aineistojen ja vastausten pieniä osia, joista käytön hinta muodostuu. Käyttäjä näkee yksinkertaisen pyynnön: “tee yhteenveto”, “analysoi nämä dokumentit” tai “etsi paras toimintavaihtoehto”. Taustalla malli voi kuitenkin käyttää lyhyen tai pitkän päättelyketjun, lukea suuren määrän taustatietoa, tehdä välivaiheita ja lopulta antaa tiiviin vastauksen. Joissakin tapauksissa suklaarasian sisältö ei miellytä, ja käyttäjä joutuu kyselemään uudelleen, jotta haluttu lopputulos lopulta saavutetaan.
“Tekoäly on kuin suklaarasia. Et koskaan tiedä, mitä saat.”
Ulospäin tehtävä voi näyttää samalta, mutta kustannus ei ole sama.
Tämä korostuu, kun mukaan lasketaan varsinainen tuotantoympäristö. Yrityksen AI-ratkaisu ei koostu vain mallista. Sen ympärillä on sovellus, integraatiot, käyttöoikeudet, tietoturva, valvonta, lokitus, mahdollinen hakukerros, testiympäristö ja ylläpito. Yksittäinen vastaus voi maksaa vain senttejä, mutta kun käyttö kasvaa tuhansiin tai miljooniin pyyntöihin, kokonaislasku muuttuu johdon asiaksi.
Markkinassa nähdään todennäköisesti hintakilpailua, mutta ei kaikkialla. Perusmallit ja yksinkertaiset käyttötapaukset halpenevat. Sen sijaan parhaat päättelymallit, pitkät kontekstit, agenttimaiset työnkulut ja vaativat yrityskäytöt voivat säilyä kalliina tai jopa kallistua kokonaiskustannukseltaan. Vaikka tokenin yksikköhinta laskisi, käyttömäärä ja tehtävien monimutkaisuus voivat kasvattaa kustannusta. Nyt on jo nähty liikehdintää, jossa uusien mallien käyttöönottoa joko lykätään tai ne siirtyvät kalliimpien käyttäjämaksujen tai tokenhinnoittelun taakse.
Mahdollinen OpenAI:n listautuminen lisäisi tätä painetta. Pörssiyhtiöltä odotetaan kasvun lisäksi kannattavuutta, katetta ja ennustettavaa liiketoimintaa. Se voi tarkoittaa aggressiivista hintakilpailua sisäänheittotuotteissa, mutta premium-kyvykkyyksissä tarkempaa hinnoittelua, käyttörajoja ja yrityskohtaisia sopimuksia.
Siksi yritysten ei kannata ajatella AI:ta taikuutena tai rajattomana automaationa. Sitä kannattaa ajatella uutena tuotantokapasiteettina, jolla on yksikkökustannus.
Tulevaisuuden voittajat eivät käytä aina tehokkainta mallia joka paikassa. Ne osaavat valita oikean mallin oikeaan tehtävään, rajata aineiston, asettaa kustannusrajat, hyödyntää välimuistia, mitata hyötyä ja seurata, mitä yksi asiakaspyyntö, analyysi tai päätöksenteon tuki todellisuudessa maksaa. Tekoälyn suklaarasian pahimmat syöpöt ovat niitä käyttötapauksia, joissa vastaus generoidaan aina uudelleen alusta loppuun epämääräisesti mallinnetulla datalla ja hyödyntämättä aiempien kyselyiden vastauksia.
Tekoälyn suklaarasia voi sisältää paljon arvoa. Mutta liiketoiminnassa rasian hintalappu pitää nähdä ennen kuin sitä jaetaan kaikille.
Kyllä, tämä teksti on kirjoitettu aiheeseen liittyen täysin tekoälyllä, muutamaa korjausta lukuun ottamatta. API- ja Azure-ympäristössä suklaarasiasta poimittuna sen laskennallinen kustannus on arviolta noin 0,10 euroa. Sähköä tämän tekstin tuottaminen on voinut kuluttaa suuruusluokaltaan noin 0,5–3 Wh ja vettä suoraan jäähdytykseen arviolta noin 0,5–5 ml. Tarkka luku riippuu käytetystä mallista, datakeskuksesta, kuormituksesta ja siitä, kuinka paljon laskentaa vastauksen tuottaminen todellisuudessa vaatii. Kulutusarviot ovat ChatGPT 5.4 -mallin arvioita.
Onnistuneen tekoälysovelluksen taustalla on hyvin toteutettu data-alusta, jossa data on yhtenäistetty, laadukasta ja liiketoiminnan näkökulmasta ymmärrettävässä muodossa. Kun datalle on rakennettu semanttinen malli, tekoäly pystyy hyödyntämään sitä luotettavammin ja tarkoituksenmukaisemmin.
Autamme yrityksiä saamaan datastaan enemmän irti — oikeaan aikaan, oikeassa muodossa ja liiketoiminnan kannalta vaikuttavalla tavalla. Kysele rohkeasti lisää.