5 min lexim
IA si mbrojtëse
IA në anën tënde
Deri tani ky modul e ka parë IA-n si mjet për sulmuesit. Është gjithashtu një nga mjetet më të forta që kanë mbrojtësit. Të njëjtat aftësi që e bëjnë IA-n të rrezikshme në duart e gabuara, shpejtësia, shkalla dhe kapja e modeleve, e bëjnë të vlefshme për mbrojtjen e njerëzve dhe sistemeve.
Ti tashmë përfiton nga IA mbrojtëse, shpesh pa e vënë re. Filtri i spam-it që i mban jashtë kutisë sate shumicën e email-eve mashtruese, paralajmërimi që të dërgon banka kur një pagesë duket e pazakontë, telefoni që sinjalizon një lidhje të dyshimtë: shumë prej kësaj është IA që bën në heshtje punën e sigurisë në sfond.
Në çfarë është e mirë IA mbrojtëse
Dalin tri pika të forta, dhe përputhen bukur kundër kërcënimeve në këtë kurs.
- Dallimi i phishing-ut. IA mund të lexojë sasi të mëdha email-esh e mesazhesh dhe të veçojë modelet e një mashtrimi, edhe kur teksti është i rrjedhshëm e i personalizuar. Aty ku shenja e vjetër e gramatikës ka dështuar te një njeri, një model prapë mund të peshojë shumë sinjale njëherësh.
- Vërejtja e sjelljes së pazakontë. Duke mësuar se si duket "normalja" për një llogari, IA mund të sinjalizojë rastet e çuditshme: një hyrje nga një vendndodhje e pamundur, një valë aktiviteti në orën 3 të mëngjesit, një skedar që po hapet e që ky person s'e prek kurrë. Kjo kap fjalëkalime të vjedhura edhe kur fjalëkalimi i futur është i saktë.
- Kapja e malware-it të ri. Në vend që të krahasojë një skedar me një listë të njohurish të këqij, IA mund të vëzhgojë çfarë bën vërtet një program dhe të sinjalizojë sjellje të dëmshme që s'e ka parë kurrë. Kjo ka rëndësi kur sulmuesit mund të gjenerojnë malware të freskët e unik për minuta.
Filli i përbashkët është shkalla dhe shpejtësia. IA mund të vëzhgojë miliona ngjarje njëherësh, gjithë kohën, dhe të reagojë brenda një fraksioni sekonde, gjë që asnjë ekip njerëzor s'do ta bënte vetëm.
Një ndihmëse, jo një zëvendësim
Megjithatë, IA mbrojtëse është një ndihmëse, jo një zëvendësim i gjykimit njerëzor. Bën gabime në të dyja drejtimet: sinjalizon gjëra të padëmshme si të rrezikshme, dhe humbet sulme të vërteta, ndonjëherë sepse një sulmues përgatiti me qëllim një hyrje që t'i shpëtojë. S'ka ndjesi konteksti a pasojash, dhe s'mund të mbahet përgjegjëse për një vendim.
Prandaj modeli i shëndetshëm është puna në ekip. IA merret me vëllimin, vëzhgimin e palodhur dhe kalimin e parë, dhe nxjerr në pah atë që duket e rëndësishme. Njerëzit sjellin gjykimin, kontekstin dhe përgjegjësinë, duke vendosur se çfarë do të thotë vërtet një sinjal dhe çfarë të bëhet me të. Siguria më e fortë vjen nga të dyja bashkë, jo nga t'i besosh verbërisht njërës prej tyre.
Mësimi për ty si përdorues i përditshëm është qetësues, por jo pasiv: mjete të fuqishme po punojnë për të të mbrojtur, dhe ia vlen t'i përdorësh. Por ato s'ta heqin përgjegjësinë për të ndaluar, verifikuar dhe menduar, sidomos te kërkesat e ndjeshme ku një makinë, ose një njeri, mund të mashtrohet.
Provoje tani
Gjej dosjen e spam-it në email dhe një paralajmërim mashtrimi në një aplikacion banke a pagesash. Përmend një mbrojtje të IA-s që tashmë po punon për ty.
Nga vjen ky mësim
Ndërtuar mbi
- Workshop 5: AI Security Tools and Defending Against AI-Enabled Threats (udhëzuesi V3.0): IA mbrojtëse në veprim
Kurset e alphaPlan ndërtohen mbi programe të zhvilluara në klasë, e nuk shpiken për web-in. Kur një pohim mbështetet mbi një standard të jashtëm ose mbi një rast të raportuar, ai emërtohet më sipër që ta kontrollosh vetë e të mos na besosh në fjalë.
shënim: ky material u krijua në kuadër të projektit 'U.S. Cybersecurity Leadership in AI for Albania', financuar nga departamenti i shtetit i shteteve të bashkuara. mendimet, gjetjet dhe përfundimet e paraqitura këtu janë të autorit(ëve) dhe nuk pasqyrojnë domosdoshmërisht ato të departamentit të shtetit të shteteve të bashkuara.
Disclaimer: This material was created on behalf of the 'U.S. Cybersecurity Leadership in AI for Albania' project, funded by the United States Department of State. The opinions, findings, and conclusions stated herein are those of the author(s) and do not necessarily reflect those of the United States Department of State.
ShënimGjete diçka të paqartë, të vjetruar ose që mund të përmirësohet? Sugjero një përmirësim