IA dhe etika

Pse një makinë ka nevojë për etikë

Është joshëse ta mendosh kompjuterin si asnjanës. S'ka mendime, s'ka mëri, prandaj sigurisht gjykimet e tij janë të drejta. Por IA-ja moderne s'ndjek rregulla që i shkroi një person me dorë. Ajo mëson nga male të dhënash, dhe ato të dhëna i bëjnë njerëzit. Çfarëdo që ndodhet brenda tyre, përfshirë gabimet tona dhe padrejtësinë tonë, mund të mësohet bashkë me gjithçka tjetër.

Kjo ka rëndësi sepse IA-ja tani ndihmon të merren vendime që prekin jetë të vërteta. Ajo mund të ndikojë se kush sheh një reklamë pune, kujt i shënohet kredia për një shqyrtim të dytë, cilën fytyrë veçon një kamerë nga një turmë. Kur një sistem i tillë gabon, s'gabon në abstrakt, sepse një person e ndien. Prandaj pyetja s'është vetëm "a funksionon?" por "a është i drejtë, dhe kush përgjigjet kur s'është?"

Kur paragjykimi fshihet në të dhëna

Pjesa më e madhe e IA-së mëson nga shembuj që i kanë etiketuar njerëzit: kjo foto është mace, ky email është i padëshiruar, ky kandidat qe një punësim i mirë. Belaja është se zgjedhjet njerëzore mbartin paragjykim njerëzor, dhe makina s'dallon dot një model të drejtë nga një i padrejtë. Ajo thjesht kopjon çfarëdo modeli që ndodhet aty.

Le të themi se një kompani stërvit një model punësimi mbi vendimet e veta të kaluara, dhe në të kaluarën ajo kryesisht punësoi një lloj personi për një rol. Modeli e mëson atë model dhe në heshtje vazhdon të favorizojë të njëjtin lloj personi, jo sepse dikush ia tha, por sepse historia që iu dha ishte tashmë e anuar. Paragjykimi ishte në të dhëna para se makina t'i prekte fare. Ky është një nga problemet më të vështira të fushës, sepse padrejtësia mund të jetë e padukshme. Sistemi duket objektiv, prodhon një përgjigje të sigurt, dhe përcjell një paragjykim të vjetër të veshur si matematikë.

Fytyra në turmë

Një përdorim i IA-së i ngre këto pyetje veçanërisht fort: të njohësh njerëzit nga fytyra. I njëjti vizion kompjuterik që të shkyç telefonin mund, në një shkallë më të madhe, të veçojë individë nga një turmë dhe të ndjekë ku shkojnë.

Përfytyro një qeveri që përdor njohjen e fytyrës për të vëzhguar hapësirat publike, duke përputhur kalimtarët me një bazë të dhënash dhe duke shënuar kush ishte ku, dhe kur. E përdorur ngushtë e me kufij, vegla të tilla mund të ndihmojnë të gjendet një fëmijë i humbur. E kthyer mbi një popullsi të tërë, ato bëhen diçka tjetër: një mënyrë për të mbikëqyrur njerëz të zakonshëm që s'kanë bërë asgjë të keqe, për të parë kush mori pjesë në një protestë, kush u takua me kë. Teknologjia s'vendos si përdoret, njerëzit vendosin. Dhe sapo ndërtohet një sistem vëzhgimi të vazhdueshëm, është shumë e vështirë të merret mbrapsht. Ja pse shumëkush thotë se ky është një nga vendet ku IA-ja ka nevojë për rregullat më të forta, jo më të lirshmet.

Të rreme që duken të vërteta

E njëjta IA gjeneruese që mund të pikturojë një pamje ose të shkruajë një paragraf mund gjithashtu të prodhojë gjëra që s'ndodhën kurrë. Ajo mund të prodhojë një fotografi të një ngjarjeje që s'ndodhi, ose një video të një personi të vërtetë duke thënë fjalë që s'i tha kurrë, mjaftueshëm bindëse për të mashtruar një vështrim të shpejtë. Media e falsifikuar në këtë mënyrë shpesh quhet deepfake.

Vër atë fuqi pranë shpejtësisë së rrjeteve sociale dhe ke një problem serioz. Një e rreme e besueshme mund të udhëtojë te miliona para se dikush ta kontrollojë, dhe një përmirësim rrallë e arrin. Ajo mund të përdoret për të njollosur një person, për të lëkundur mendimin, ose për të të bërë të dyshosh pamje të vërteta duke këmbëngulur se mund të jenë të rreme. Nga ana shpresëdhënëse, IA-ja mund të ndihmojë edhe këtu, duke sinjalizuar të rremet e mundshme dhe duke u ofruar njerëzve një gamë më të plotë pikëpamjesh në vend të copës së ngushtë që një rrjedhë lajmesh priret të shërbejë. Por mbrojtja kryesore s'është një vegël e zgjuar. Është një zakon i mendjes.

Të mësosh të mendosh në mënyrë kritike

Asgjë nga kjo s'do të thotë se IA-ja është armiku. Do të thotë se përballesh me atë që ajo prodhon me të njëjtin kujdes të shëndetshëm që do t'i jepje çdo burimi të fuqishëm. Pak zakone bëjnë shumë.

• Pyet nga erdhi. Kush e bëri këtë, kush e stërviti, dhe çfarë mund të duan që ti të besosh ose të bësh?
• Ji i ngadaltë me të habitshmen. Përmbajtja më e krijuar për të të tronditur ose kënaqur është përmbajtja që ia vlen më shumë ta kontrollosh para se ta përcjellësh.
• Kërko një burim të dytë. Një ngjarje e vërtetë zakonisht lë më shumë se një gjurmë, prandaj një copë e vetme dramatike pa mbështetje meriton dyshim.
• Mba mend se makina mund të gabojë me siguri. Një përgjigje e rrjedhshme e e sigurt s'është provë, vetëm një hamendje e formuar mirë.

IA-ja do të vazhdojë të bëhet më e aftë, dhe njerëzit që e ndërtojnë mbajnë një detyrë të vërtetë për të peshuar pasojat. Por ti s'je i pafuqishëm përballë saj. Një mendje e kthjellët e pyetëse është e vetmja vegël që s'del kurrë nga moda.

Vëre njësinë në punë

Katër shprehive është lehtë t'u pohosh me kokë dhe vështirë t'i përdorësh. Ja dy pohime nga ato që takon vërtet. Njëri prej tyre qëndron.

Praktikë e njësisë · 20 deri në 25 min

Gjyko dy pohime për IA-në, dhe shiko si lëviz bindja jote

Mësimi i fundit të dha katër shprehi për ta takuar IA-në në jetën e përditshme. Këtu i përdor mbi diçka konkrete, dy herë. Puna jote rri në këtë shfletues: asgjë nuk ngarkohet, nuk vlerësohet dhe nuk ruhet.

Të dy pohimet më poshtë janë shkruar ashtu siç do t'i takoje vërtet. Njëri prej tyre qëndron. I gjithë ushtrimi është të vendosësh cili.

Pohimi 1 · Një njoftim nga një shkollë

"Nga semestri i ardhshëm provimet tona online përdorin një mbikëqyrës me IA. Ai vëzhgon çdo nxënës përmes kamerës dhe shënon këdo lëvizjet e syve të të cilit sugjerojnë se po kopjon. Sistemi është 94% i saktë."

Para se ta mendosh shumë: a do ta besoje këtë?

Nuk do ta besojaNuk do të dija ta thoshaNë përgjithësi do ta besoja

Regjistro reagimin tim të parë

Nëse nuk di nga t'ia nisësh, pyet çfarë pa

Secili prej këtyre sistemeve mësoi nga shembuj. Kjo është e vetmja gjë që e di gjithmonë për të, edhe kur nuk di asgjë tjetër, dhe të jep një pyetje që funksionon gjithmonë: çfarë pa, dhe a i ngjan situata ime asaj?

Nuk të duhet të dish si punon modeli për ta bërë këtë pyetje. Nuk po pyet për matematikën, po pyet për fotografitë, incizimet, vendimet e shkuara që iu treguan. Ato erdhën nga diku, dhe ai diku zakonisht nuk është këtu.

Nëse përgjigjja e ndershme është "mësoi nga njerëz që nuk u ngjajnë shumë njerëzve mbi të cilët po përdoret", e gjete problemin pa kuptuar asnjë rresht të vetëm të sistemit.

Nëse kjo iu duk e thjeshtë

Tani versioni më i vështirë: supozo se mbikëqyrësi funksiononte. Supozo se dikush e zgjidhi problemin e të dhënave të trajnimit, dhe ai vërtet e dallonte kopjimin me saktësi për çdo lloj nxënësi. A do të kishte të drejtë shkolla ta instalonte?

Këtu kritika teknike mbaron dhe diçka tjetër duhet ta marrë përsipër. Një sistem që vëzhgon çdo nxënës përmes një kamere brenda dhomës së tij, dhe që si parazgjedhje e trajton si të dyshuar, po i bën diçka marrëdhënies mes shkollës dhe nxënësit që nuk ka të bëjë fare me saktësinë e tij. Mësimi i etikës e bëri këtë vërejtje për njohjen e fytyrës në sheshe publike. Është e njëjta vërejtje, dhe saktësia nuk i përgjigjet.

Pra pyetja që e rrëzoi mbikëqyrësin ishte e mirë, dhe nuk është pyetja e fundit. Të thuash "kjo nuk funksionon" është më lehtë se të thuash "kjo funksionon dhe nuk duhet ndërtuar", dhe vetëm e dyta qëndron kur teknologjia përmirësohet. Zakonisht ajo përmirësohet.

Radha jote: emërto një sistem IA të cilit do t'i kundërviheshe edhe nësedo të ishte shumë i saktë, dhe thuaj mbi çfarë mbështetet kundërshtimi yt në vend të saktësisë. Pastaj vër re nëse ajo arsye do t'i mbijetonte dikujt që të tregon shifra më të mira saktësie.

Rinis këtë praktikëKjo pajisje mban mend vetëm hapin ku arrite dhe opsionet që zgjodhe.

Gjete diçka të paqartë, të vjetruar ose që mund të përmirësohet? Sugjero një përmirësim

Provo veten

• IA-ja shpesh mëson nga të dhëna që i kanë etiketuar njerëzit. Shpjego me fjalët e tua se si paragjykimi njerëzor mund të përfundojë brenda një sistemi që duket krejt objektiv.
• Njohja e fytyrës mund të ndihmojë të gjendet një fëmijë i humbur ose, në një shkallë më të madhe, t'i lejojë një qeverie të ndjekë njerëz të zakonshëm. Çfarë e bën të njëjtën teknologji të dobishme në një rast dhe shqetësuese në tjetrin?
• Has një copë videoje tronditëse të një personi publik duke thënë diçka të tmerrshme. Duke përdorur zakonet e këtij mësimi, çfarë do të bëje para se ta besoje ose ta ndaje?