Amit mostanában annak szokás nevezni, az leginkább LLM (Large Language Model) magyarul Nagy Nyelvi Modell alapú chat bot (magyarul csevegő gép). Na ezért is nem erőltetem tovább a magyarítást. Az AI az ennél sokkal több, de mostanság a legtöbben ezt értik alatta, és ráadásul szűkített formában, ingyenesen bárki számára elérhető. Most csak ezzel foglalkozunk.

Az LLM a lényeg, és nem más, mint egy intelligens fekete doboz. Élő nyelven feltett kérdésre, élő nyelven képes válaszolni. Nem tudjuk mi van benne, boltban árulják, vagy szolgáltatásként megvesszük, vagy - mint esetünkben - korlátok között, ingyen hozzá lehet férni.
Alapvetően egy szoftver keretrendszer, hatalmas fejlesztő kapacitásokat ölnek bele nagy cégek. Üresen nagyon buta, be kell tanítani. Sokat lehet arról olvasni, hogy a betanításhoz milyen adatbázist használnak, meg melyik cég milyen adatokkal tanítja be az AI-t. A  betanítás nagyon fontos, szerzői jogot is sérthet; nagy harc folyik az adatbázisok megszerzésére.
Mondok egy bugyuta példát az adatbázis fontosságára. Kérdezzük meg tőle, hogy:

"Kifejezetten hosszú élettartamú, és takarékos fényforrás szempontjából mi a javaslata?"

Olyan LLM, amit a Bibliával tanítottak fel, lehet, olyasmit fog mondani, hogy: 

"Az örök világosság fényeskedjen neked gyermekem."

Amit pedig más korpusszal (~ szövegtest/adatbázis) tanítottak fel, lehet, azt fogja mondani:

"LED izzó, E27 foglaltba egyszerűen becsavarható."

Az LLM-et önmagában nem szokás használni, körbe kell egy kicsit rakni pár dologgal, mert feltanítva is eléggé "fapados".
Meg lehet neki adni például egy system prompt-ot. Ez tulajdonképpen utasítás az LLM-nek, hogy miként kezelje a kérdéseket. A prompt-kezelés egy külön szakma (prompt engineering). Lehet egy system prompt például akár ilyen is:

"Ön egy majdnem nyolcvan éves, nagy megbecsülésnek örvendő ember. Kissé feledékeny, de mindenre tud választ adni. A válasza legalább száz szóból álljon, és legalább egyszer szerepeljen benne ezek közül legalább egy: Ganz, Posta, Nyúl, Györök, van ilyenem, enyém nagyobb, legközelebb, minek az, régen bezzeg."

Az igazat megvallva csináltan ilyesmi system prompt-tal chat bot-ot, megkérdeztem tőle, hogy "Mi a transzformátor?" Majdnem leestem a székről, annyira élethűre sikeredett...

Van más paraméter is, például a Temperature (magyarul hőmérséklet lenne, de így senki nem hívja), ez azt mondja meg, hogy mennyire ragaszkodjon a tényekhez, vagy legyen inkább kreatív. Az előző példában inkább százhoz közeli volt.

Azt is be lehet állítani, hogy mennyire sokat gondolkozzon (ásson a dolgok mélyére). Nem biztos hogy sokat nyerünk vele, ha mindennek utána néz...

Mihez fér hozzá? Előzetesen meg lehet vele etetni könyvet, bármit. Lásd a példát, korábbról.

Meg van AZ Internet, a maga előnyeivel, és persze hátrányaival. Ott minden megvan, meg az ellenkezője is. Példákkal mindenre.

És persze meg lehet támogatni különféle Tool-okkal (szerszám; mennyire nem passzol ide ez a kifejezés sem, pont azért nem használjuk).

Amúgy ezek mind (iszonyat) pénzbe kerülnek, ha most látszólag ingyen is van.

Valahogy így: