IA si objektiv

Vetë IA ia vlen të sulmohet

Mësimet e mëparshme e trajtuan IA-n si armë dhe si mburojë. Ka një kënd të tretë: sistemi i IA-s është objektiv në vetvete. Ndërsa organizatat fusin gjithnjë e më shumë IA në vendime që kanë rëndësi, vetë modeli bëhet diçka që ia vlen të sulmohet, dhe diçka që duhet mbrojtur.

Ky është një kalim nga kërcënimet me të cilat përballesh si individ drejt mënyrës se si mbrohen sistemet rreth teje. S'do ta mbrosh vetë një model, por ndihmon të kuptosh pse organizatat te të cilat mbështetesh, banka jote, punëdhënësi yt, shërbimet publike, duhet ta ruajnë IA-n pas shërbimeve të tyre.

Të dhëna të stërvitjes të helmuara

Siç e shpjegoi trajnimi kundrejt përdorimit, një model IA mëson nga të dhënat, dhe çfarëdo mbi të cilën stërvitet formëson sjelljen e tij. Ajo varësi është një dobësi që një sulmues mund ta synojë.

Nëse dikush mund të fusë shembuj të këqij në të dhënat nga të cilat mëson një model, mund ta përkulë në heshtje sjelljen e tij. Kjo quhet helmim i të dhënave. Bërë me kujdes, mund ta mësojë një model të bëjë një gabim të caktuar, të shpërfillë një lloj të caktuar kërcënimi, ose të mbajë një dobësi të fshehur që sulmuesi mund ta aktivizojë më vonë. Modeli duket në rregull në përdorimin e përditshëm, dhe pikërisht kjo e bën helmimin të vështirë për t'u vënë re, dhe dëmi mund të jetë ngulitur shumë kohë para se ta vërejë kush.

Prandaj ka rëndësi nga vijnë të dhënat e stërvitjes. Një model i stërvitur me çfarëdo që mund të mblidhet nga interneti i hapur trashëgon çfarëdo që zgjodhi kushdo të vinte aty.

Modele të vjedhura e të kopjuara

Një model i stërvitur mirë është i vlefshëm. Mund të përfaqësojë shumë para, të dhëna dhe përpjekje, prandaj bëhet objektiv për vjedhje.

Ajo vjedhje merr më shumë se një formë:

• Vjedhje e drejtpërdrejtë, ku një sulmues që futet në një sistem thjesht e kopjon modelin, duke marrë punën e mbaruar pa e paguar.
• Kopjim me anë të pyetjeve, ku një sulmues s'e arrin dot modelin drejtpërdrejt, por e pyet shumë herë dhe përdor përgjigjet për të ndërtuar një imitim të afërt të tijin.
• Nxjerrja e të dhënave të stërvitjes, ku një sulmues e teston modelin për të tërhequr prapa disa nga informacionet e ndjeshme mbi të cilat u stërvit, gjë që mund të ekspozojë të dhënat private të njerëzve të vërtetë.

Një model i vjedhur ose i kopjuar mund të nxjerrë informacion konfidencial, t'i dhurojë një konkurrenti vite pune, ose t'i japë një sulmuesi një kopje private për ta studiuar për dobësi me rehati.

Pse organizatat duhet të mbrojnë IA-n e tyre

Vendosi këto bashkë dhe mesazhi është i qartë: një sistem IA është infrastrukturë kritike, dhe i duhet e njëjta kujdesje si çdo tjetër. Kjo do të thotë kontroll dhe verifikim i të dhënave nga të cilat mëson, kufizim se kush mund ta aksesojë modelin dhe sa mund ta pyesë, vëzhgim për shenja ngacmimi a vjedhjeje, dhe mbajtja e njerëzve në gjendje të shqyrtojnë vendimet e rëndësishme.

Për ty, poenta praktike është pritshmëri, jo veprim. Kur një organizatë të kërkon t'i besosh një shërbimi të drejtuar nga IA, pjesë e të besuarit mirë është të presësh që ata ta trajtojnë vetë IA-n si diçka për t'u mbrojtur, sepse sulmuesit me siguri e trajtojnë si diçka që ia vlen të sulmohet.