Aloitin tänään systemaattisen harjoittelun kohti edistyneempää generatiivisen tekoälyn käyttöä. Ensimmäinen päivä ei käsitellyt prompt-kikkoja, vaan perustavanlaatuista kysymystä:
Mitä kielimalli oikeasti tekee?
Tässä kolme tärkeintä oivallustani.
1. Tekoäly ei “tiedä” – se ennustaa seuraavan tokenin
Kielimalli toimii ennustamalla todennäköisimmän seuraavan sanan tai sananosan aiemman tekstin perusteella Päivä1.
Se ei tarkista faktoja.
Se ei varmista totuutta.
Se jatkaa todennäköisyyksien perusteella.
Tämä muutti ajattelutapani täysin: prompti ei ole kysymys – se on todennäköisyysympäristön muotoilu.
2. Entropia ei ole sama asia kuin luotettavuus
Opin erottamaan kaksi käsitettä:
Entropia = kuinka monta mahdollista vastaussuuntaa on.
Episteeminen riski = kuinka todennäköistä on, että vastaus on virheellinen Päivä1.
Tarkempi prompti pienentää entropiaa (vähemmän hajontaa),
mutta se ei automaattisesti pienennä virheriskiä.
Itse asiassa liiallinen tarkkuus voi lisätä hallusinaatioriskiä, jos malli ei ole hyvin “maadoitettu” kyseiseen tietoon.
Selkeys ≠ totuus.
3. Rakenteelliset ohjeet ovat vahvempia kuin “ole tarkka”
Pelkkä ohje “älä hallusinoi” ei oikeasti muuta mitään Päivä1.
Sen sijaan vahvempi tapa vähentää riskiä on:
- Pyytää epävarmuuden perustelu
- Välttää pakotettua tarkkuutta
- Rajata aikaherkät väitteet
- Pyytää varmuustason selitys
Rakenne muuttaa todennäköisyysjakaumaa.
Sävy ei.
Päivän ydinoivallus
Generatiivisen tekoälyn käyttö ei ole “hyvien vastausten” metsästystä.
Se on:
- entropian hallintaa
- episteemisen riskin hallintaa
- todennäköisyysympäristön tietoista muotoilua
Tämä oli vasta ensimmäinen päivä – mutta ajattelutapa muuttui jo nyt.
Vastaa