LLM-të dhe halucinacionet

Vegla pas chatbot-it

Kur shkruan një pyetje në një chatbot dhe ai përgjigjet me fjali të rrjedhshme, po flet me një model të madh gjuhësor (LLM). Është teknologjia pas veglave si ChatGPT, dhe është një lloj IA-je e trajnuar me sasi të mëdha teksti. Të dish pak a shumë si punon shpjegon si pse është kaq e dobishme, ashtu edhe pse ndonjëherë e ka gabim me plot bindje.

Ai parashikon fjalën e radhës

Një LLM bën jashtëzakonisht mirë një gjë bazë: parashikon fjalën e radhës. I trajnuar me një sasi të stërmadhe shkrimi, ka mësuar cilat fjalë priren të vijnë pas cilave, dhe ndërton një përgjigje fjalë për fjalë, ku çdo zgjedhje udhëhiqet nga gjithçka para saj. Bëje këtë mjaft shpejt, mbi miliarda shembuj, dhe rezultati lexohet si një përgjigje njerëzore e menduar.

Ia vlen të ndalesh këtu, sepse ky është çelësi i gjithçkaje tjetër. Modeli nuk po kërkon fakte në një bazë të dhënash, dhe nuk po arsyeton për botën ashtu si një person. Po prodhon vargun më të besueshëm të fjalëve për pyetjen tënde. Zakonisht fjalët më të besueshme janë edhe të vërteta, sepse pohimet e vërteta janë të shpeshta në tekstin e tij trajnues. Por e besueshme dhe e vërtetë nuk janë e njëjta gjë, dhe pikërisht në atë hendek rri belaja.

Një halucinacion është një përgjigje e gabuar me bindje

Kur një LLM prodhon diçka që tingëllon e saktë por është e rreme, kjo quhet halucinacion. Pjesa shqetësuese s'është që bën gabime, i bëjnë të gjitha veglat, por që i bën me bindje të plotë dhe rrjedhshmëri të përsosur. S'ka ton nervoz, s'ka rezervë, s'ka asnjë tegel të dukshëm mes një fakti të fortë dhe një të shpikur.

Halucinacionet shfaqen si statistika të shpikura, citate që s'i tha kurrë njeri, çështje ligjore që s'ekzistojnë, një libër ia veshin autorit të gabuar, ose një numër telefoni i sajuar. Meqë puna e modelit është të tingëllojë i besueshëm, një përgjigje e gabuar shkruhet në tamam të njëjtin stil të sigurt si një e saktë. S'i dallon dot vetëm nga toni.

Pse ndodh, thënë thjesht

Kujto çfarë po bën modeli: parashikon fjalë të gjasshme, jo kontrollon të vërtetën. Nëse pyetja jote drejton drejt një përgjigjeje që s'ekziston, modeli prapë do të gjenerojë fjalët që tingëllojnë më të gjasshme për të mbushur zbrazëtinë, sepse vetëm kaq di të bëjë. S'ka një ndjesi të brendshme "këtë në fakt nuk e di." Rrjedhshmëria s'është dije, dhe bindja s'është saktësi.

Kontrollo gjithmonë faktet që kanë rëndësi

Asgjë nga kjo s'do të thotë se një LLM është i padobishëm. Është një ndihmës vërtet i fuqishëm për të hartuar, përmbledhur, shpjeguar dhe stuhi idesh. Do të thotë thjesht se prodhimin e tij duhet ta trajtosh si një draft të bindur, jo si një burim të verifikuar.

Rregulli praktik është i thjeshtë: sa më shumë të ketë rëndësi një fakt, aq më shumë verifikoje diku tjetër. Një emër, një numër, një datë, një hollësi mjekësore, ligjore ose financiare, një citat që do ta përsërisësh, kontrolloji këto me një burim të besuar e të pavarur para se t'u besosh ose t'i përcjellësh. Lëre modelin të ta shpejtojë punën, por gjykimin e fundit për atë çka është e vërtetë mbaje fort te vetja.

Provo veten