Következő token és mintavételezés
Miért adhat ugyanarra a kérdésre két kissé eltérő választ az AI?
A lényeg
Autoregresszív szövegmodell lépésenként becsli a következő tokenek valószínűségét, és kiválasztási eljárás segítségével állít elő folytatást. A hőmérséklet (temperature) és egyéb mintavételi paraméterek módosíthatják a változatosságot. A teljes rendszer tartalmazhat külön következtetési vagy eszközhasználati folyamatokat is.
Egy autoregresszív nyelvi modell tokenről tokenre állíthat elő kimenetet. A mintavételezési beállítások befolyásolhatják a változatosságot, de nem varázsolnak tényellenőrzést a modellbe.
Egy kreatív történet folytatása lehet változatos; egy JSON-kimenetnél gyakran inkább a kiszámíthatóság a cél.
Az alacsony hőmérséklet nem bizonyít tényhelyességet: egy téves válasz determinisztikusan is ismétlődhet.
Próbáld ki!
Kérj három címet ugyanahhoz a blogbejegyzéshez, majd értékeld a változatosság és pontosság arányát.
Szánj erre 1–2 percet. A saját megoldás többet ér, mint a kész válasz olvasása. Nem kell AI-fiók a feladathoz.
Mondd el saját szavaiddal a lecke lényegét. Hogyan magyaráznád el valakinek, miért téves a fent bemutatott félreértés? Hozz még egy saját példát!
Saját jegyzeted (automatikus helyi mentés)
Ellenőrizd a tudásod
Helyes válasz: A tokenválasztás eloszlását és a válaszok változatosságát. Autoregresszív szövegmodell lépésenként becsli a következő tokenek valószínűségét, és kiválasztási eljárás segítségével állít elő folytatást. Az alacsony hőmérséklet nem bizonyít tényhelyességet: egy téves válasz determinisztikusan is ismétlődhet.
Források és továbbolvasás
A magyarázatok ismeretterjesztő összefoglalók. A hivatkozások modulonkénti szakmai háttéranyagok, nem mondatonkénti, elsődleges bizonyítékok. Kétség esetén ellenőrizd az eredeti dokumentumot.