A Transformer 2017-es fordulata
A ma ismert nyelvi modellek történetének egyik kulcséve 2017.
A lényeg
Az „Attention Is All You Need” tanulmány bevezette a Transformer architektúrát. Az önfigyelmi mechanizmus segítségével a modell egy sorozat elemei között kapcsolatokat kezelhet, miközben a tanítás jól párhuzamosítható. Az architektúra később széles körben elterjedt a nyelvi és multimodális rendszerekben.
A Transformer 2017-ben az attention mechanizmusra épülő architektúrát mutatott be. Azóta sok különböző modellcsalád használja, de a modern AI nem azonos kizárólag a Transformerekkel.
A „bank” szó jelentését a mondat többi szava befolyásolja: „folyópart” vagy „pénz”. A kontextuskezelés ezért fontos.
A Transformer nem varázslatos logikai motor: a tanítás, az adatok és a célfeladat továbbra is lényegesek.
Próbáld ki!
Válassz egy kétértelmű magyar szót, és írj két mondatot eltérő jelentéssel.
Szánj erre 1–2 percet. A saját megoldás többet ér, mint a kész válasz olvasása. Nem kell AI-fiók a feladathoz.
Mondd el saját szavaiddal a lecke lényegét. Hogyan magyaráznád el valakinek, miért téves a fent bemutatott félreértés? Hozz még egy saját példát!
Saját jegyzeted (automatikus helyi mentés)
Ellenőrizd a tudásod
Helyes válasz: 2017. Az „Attention Is All You Need” tanulmány bevezette a Transformer architektúrát. A Transformer nem varázslatos logikai motor: a tanítás, az adatok és a célfeladat továbbra is lényegesek.
Források és továbbolvasás
A magyarázatok ismeretterjesztő összefoglalók. A hivatkozások modulonkénti szakmai háttéranyagok, nem mondatonkénti, elsődleges bizonyítékok. Kétség esetén ellenőrizd az eredeti dokumentumot.