Mësimi makinerik kundërshtar

Të mashtrosh një makinë me qëllim

Një model IA nuk e sheh botën ashtu si ti. Ai kërkon modele te numrat, pikselat dhe tingujt. Shpesh kjo funksionon mjaftueshëm mirë. Por meqë i percepton gjërat ndryshe nga ne, mund të mashtrohet nga hyrje që një person do t'i quante krejt të zakonshme.

Mësimi makinerik kundërshtar (adversarial machine learning) studion pikërisht këtë: përgatitjen e hyrjeve ose manipulimin e atyre ekzistuese, në mënyrë që modeli të japë qëllimisht një përgjigje të gabuar. Hyrja e manipuluar shpesh i duket krejt normale një njeriu; pikërisht kjo e bën sulmin të efektshëm dhe të vështirë për t'u vënë re.

Shembuj të thjeshtë

Disa shembuj të përdorur gjerësisht e bëjnë idenë konkrete:

• Shenja STOP e ndryshuar. Studiuesit ngjitën disa ngjitëse të vogla, të vendosura me kujdes, mbi një shenjë rrugore. Për një person ishte ende qartazi një shenjë STOP. Për një sistem njohjeje pamjesh në një makinë, modeli mjaftoi për ta lexuar shenjën si diçka krejt tjetër, si një kufi shpejtësie.
• Ndryshimi i padukshëm. Merr një foto që modeli e etiketon saktë si një kafshë. Ndrysho pikselat në një mënyrë aq të lehtë sa fotoja të duket e njëjtë për ty, dhe modeli mund papritur, plot vetëbesim, ta etiketojë si një kafshë krejt tjetër.
• Modeli që të fsheh. Një model i posaçëm i printuar mbi një bluzë mund ta ndalojë sistemin e zbulimit të një kamere të njohë se aty ka fare një person.

Në çdo rast një njeri nuk mashtrohet, por makina po. Ndryshimi synon mënyrën se si modeli e lexon botën, jo si e lexon ti.

Pse vetëbesimi s'është e njëjta gjë me saktësinë

Pjesa shqetësuese është se një model i mashtruar nuk vepron i pasigurt. Zakonisht e jep përgjigjen e gabuar me vetëbesim të plotë, me të njëjtin ton që përdor kur ka të drejtë. S'ka asnjë dridhje në zë për të të paralajmëruar.

Kjo ka rëndësi kudo ku një vendim i IA-së ka pasoja të vërteta: miratimi ose bllokimi i një transaksioni, shqyrtimi i një fotoje ose dokumenti, sinjalizimi i përmbajtjes, shkyçja e një pajisjeje ose drejtimi i një makine. Nëse dikush mund të përgatisë një hyrje që e shtyn modelin te përgjigjja që ai dëshiron, siguria me të cilën modeli përgjigjet kthehet në rrezik, jo në garanci.

Mësimi praktik

Nuk të duhet t'i ndalosh vetë këto sulme. Mësimi ka të bëjë me besimin. Një vendim i IA-së është një e dhënë e vlefshme për gjykim, jo fjala e fundit; një model i vetëm mund të gabojë ose dikush mund ta shtyjë qëllimisht të gabojë, edhe kur tingëllon krejtësisht i sigurt.

Prandaj, për çdo gjë që ka rëndësi, ruaj mbikëqyrjen njerëzore, lejo një mënyrë për ta vënë në pyetje ose apeluar një vendim automatik dhe mos lejo që "sistemi e tha" të jetë fjala e fundit e bisedës. Besimi i verbër te një përgjigje e vetme e IA-së është pikërisht dobësia që një sulm kundërshtar synon të shfrytëzojë.

Një pyetje për ta çuar përpara: mendo për një vendim të vetëm automatik që tashmë të prek, një pagesë që miratohet, një foto që përputhet, një pajisje që shkyçet nga fytyra jote. Nëse ai model mund të mashtrohej në heshtje drejt vetëbesimit të plotë, a do ta merrje vesh, dhe çfarë rruge kthimi do të kishe për ta vënë në pyetje?