IA si objektiv

Vetë IA ia vlen të sulmohet

Mësimet e mëparshme e trajtuan IA-në si armë dhe si mburojë. Ka një kënd të tretë: sistemi i IA-së është objektiv në vetvete. Ndërsa organizatat përfshijnë gjithnjë e më shumë IA në vendime që kanë rëndësi, vetë modeli bëhet diçka që ia vlen të sulmohet dhe që duhet mbrojtur.

Ky është një kalim nga kërcënimet me të cilat përballesh si individ te mënyra si mbrohen sistemet rreth teje. Nuk do ta mbrosh vetë një model, por është e dobishme të kuptosh pse organizatat tek të cilat mbështetesh, si banka, punëdhënësi dhe shërbimet publike, duhet ta mbrojnë IA-në pas shërbimeve të tyre.

Helmimi i të dhënave të trajnimit

Siç e shpjegoi mësimi për trajnimin dhe inferencën, një model IA mëson nga të dhënat dhe materiali me të cilin trajnohet formëson sjelljen e tij. Kjo varësi është një dobësi që një sulmues mund ta synojë.

Nëse dikush mund të fusë shembuj të këqij në të dhënat nga të cilat mëson një model, mund ta përkulë në heshtje sjelljen e tij. Kjo quhet helmim i të dhënave. Bërë me kujdes, mund ta mësojë një model të bëjë një gabim të caktuar, të shpërfillë një lloj të caktuar kërcënimi, ose të mbajë një dobësi të fshehur që sulmuesi mund ta aktivizojë më vonë. Modeli duket në rregull në përdorimin e përditshëm, dhe pikërisht kjo e bën helmimin të vështirë për t'u vënë re, dhe dëmi mund të jetë ngulitur shumë kohë para se ta vërejë kush.

Prandaj ka rëndësi nga vijnë të dhënat e trajnimit. Një model i trajnuar me çfarëdo që mund të mblidhet nga interneti i hapur trashëgon edhe problemet e materialit që njerëzit kanë vendosur atje.

Modele të vjedhura e të kopjuara

Një model i trajnuar mirë është i vlefshëm. Mund të përfaqësojë shumë para, të dhëna dhe përpjekje, prandaj bëhet objektiv për vjedhje.

Ajo vjedhje merr më shumë se një formë:

• Vjedhje e drejtpërdrejtë, ku një sulmues që futet në një sistem thjesht e kopjon modelin, duke marrë punën e mbaruar pa e paguar.
• Kopjim me anë të pyetjeve, ku një sulmues s'e arrin dot modelin drejtpërdrejt, por e pyet shumë herë dhe përdor përgjigjet për të ndërtuar një imitim të afërt të tijin.
• Nxjerrja e të dhënave të trajnimit, ku një sulmues e teston modelin për të nxjerrë disa nga informacionet e ndjeshme me të cilat u trajnua; kjo mund të ekspozojë të dhënat private të njerëzve të vërtetë.

Një model i vjedhur ose i kopjuar mund të nxjerrë informacion konfidencial, t'i dhurojë një konkurrenti vite pune, ose t'i japë një sulmuesi një kopje private për ta studiuar për dobësi me rehati.

Pse organizatat duhet ta mbrojnë IA-në e tyre

Kur i bashkon këto rreziqe, mesazhi është i qartë: një sistem IA është infrastrukturë kritike dhe kërkon të njëjtin kujdes si çdo sistem tjetër kritik. Kjo do të thotë të kontrollohen dhe verifikohen të dhënat nga të cilat mëson, të kufizohet kush mund të hyjë te modeli dhe sa mund ta pyesë, të vëzhgohen shenjat e manipulimit ose vjedhjes dhe t'u lihet njerëzve mundësia të shqyrtojnë vendimet e rëndësishme.

Për ty, përfundimi praktik lidhet me atë që duhet të presësh, jo me një veprim që duhet ta kryesh vetë. Kur një organizatë të kërkon t'i besosh një shërbimi të drejtuar nga IA-ja, duhet të presësh që ajo ta trajtojë edhe vetë IA-në si diçka që duhet mbrojtur, sepse sulmuesit e trajtojnë si një objektiv me vlerë.