Më në fund po mësojmë mësimin e Y2K — dhe është tepër vonë

Është koha për të vënë në dyshim besimin tonë në makinë

“Në një antiklimaks të mirëpritur ndaj dy viteve të paralajmërimeve të tmerrshme, mijëvjeçari i ri mbërriti gjatë fundjavës pa një shkrirje të infrastrukturës elektronike të globit të drejtuar nga kompjuteri.” Kështu filloi një "editorial" i New York Times më 3 janar 2000, duke pasqyruar një psherëtimë kolektive lehtësimi që menjëherë pasoi orët që ktheheshin nga viti 1999 në 2000.

Nata e Vitit të Ri 1999 duhej të ishte si askush tjetër. Në muajt para fillimit të mijëvjeçarit të ri, u ngrit paniku për një gabim programimi të paraqitur në kompjuterë në të gjithë botën. I ashtuquajturi bug Y2K ishte një problem me orët e brendshme në kompjuterë dhe softuer – ata numëronin vitet vetëm si dy shifra. Dhe kështu, askush nuk ishte plotësisht i sigurt se çfarë do të ndodhte kur të gjithë të shkonin nga 99 në 00. Paniku u ngrit. Çfarë do të bënin kompjuterët përballë një viti teorik dy-zero? A do të funksiononin makinat bankare? A do të bien avionët nga qielli? A do të vendoseshin aksidentalisht raketat bërthamore?

Përgjigja për secilin, siç theksoi Times tre ditë pas vitit të ri, ishte: jo. Asnjë nga këto nuk ndodhi. Dhe në vitet që pasuan, ka dy histori përse. Megjithëse të dy rrëfimet e asaj që ndodhi duket se janë në kundërshtim me njëra-tjetrën, ato së bashku jo vetëm që ndihmojnë në shpjegimin e botës sonë gati 20 vjet më vonë, por edhe se si mund të kemi humbur mësimin e vërtetë që mund të na kishte dhënë Y2K - një për rrjetet, njerëzit gabimi dhe rreziku i besimit të verbër te makinat.

Në vitet që pas asaj nate të Vitit të Ri, Y2K është bërë një linjë e qëndrueshme. I gjithë incidenti tani mbahet mend kryesisht si një çështje jo-çështje, buja e tepruar mediatike e të cilit u krahasua vetëm me shumat masive të parave që qeveritë në mbarë botën shpërndanë për ta zgjidhur atë. Ai imazh i Y2K-së si një jo-ngjarje vazhdon në kujtesën kulturore, "përdoret" ende për të hedhur poshtë katastrofat e supozuara "në politikë" ose "teknologji".

Por Y2K nuk ishte thjesht një panik masiv i tepërt i ekzagjeruar i nxitur nga media. Prapa skenave, teksa njerëzit grumbullonin ushqim dhe ujë, ose u bashkuan me kultet e fundit të botës, programuesit punuan pa u lodhur për të parandaluar që ndonjë gjë të mos shkonte keq. Në muajt që çuan deri në vitin 2000, kishte shqetësime të vërteta në botën e IT në lidhje me defektin Y2K dhe një përpjekje të bashkërenduar pasuese për të shmangur problemet e përhapura kur '99 kaloi në '00.

Të besosh se Y2K nuk përbënte asgjë vetëm rastësisht – të besosh se ishte zhurmë mediatike dhe asgjë më shumë – do të thotë të “angazhohesh në një revizionizëm shkatërrues, nënçmues që lë mënjanë largpamësinë dhe përkushtimin e një komuniteti IT që punoi pa u lodhur për vite me radhë për rregulloni problemin," shkroi Don Tennant, kryeredaktor i ComputerWorld, në 2007.

Y2K nuk ishte thjesht një panik masiv i tepërt i ekzagjeruar i nxitur nga media.

Por fakti që kaq shumë njerëz ndihen në këtë mënyrë përbën një lloj triumfi të çuditshëm: prova për të gjithë punën është mungesa e fatkeqësisë. Në retrospektivën e tij të vitit 2009 mbi Y2K, Farhad Manjoo "përfundoi" se suksesi i përgatitjeve Y2K "ka sjellë apati" - se mungesa e armagedonit Y2K e ka bërë më të vështirë për njerëzit që t'u kushtojnë vëmendje paralajmërimeve "për ngrohjen globale ose kërcënime të tjera...fakti që ne e rregulluam mund ta bëjë më të vështirë rregullimin e ndonjë gjëje tjetër në të ardhmen.”

Mund të ketë një mënyrë tjetër për ta parë atë.

Të dy, të kombinuara, rrëfimet e asaj që ndodhi në Y2K – që ishte rreptësisht një jo-ngjarje, ose, se ishte një jo-ngjarje për shkak se programuesit ishin mjaft të aftë për ta parashikuar dhe shmangur atë – në fakt ushqenin diçka tjetër: besimin.

Pavarësisht nëse besoni se Y2K ishte shumë zhurmë për asgjë që në fillim, ose nëse e kuptoni se ishte kështu vetëm për shkak të ndërhyrjes njerëzore, trashëgimia e qëndrueshme mund të mos jetë ajo e apatisë, por e besimit - si në makinat që krijuam, ashtu edhe në aftësia për t'i kuptuar dhe kontrolluar ato. Ose rrjetet dhe sistemet që kishim krijuar deri në atë pikë ishin krijuar në thelb për të qenë të fortë dhe të sigurt (ose edhe të pathyeshëm), ose ne ishim në gjendje të parashikonim dhe shmangnim zonat e dobëta.

Të armatosur me këtë besim, në vitet që nga Y2K, ne kemi krijuar rrjete dhe sisteme gjithnjë e më komplekse për të përmirësuar, drejtuar apo edhe për të marrë përsipër shumë aspekte të jetës sonë të përditshme. Ndërsa në vitin 1999, shumë aspekte të jetës sonë të përditshme mbetën jashtë linje, sot ka mbetur pak e paprekur nga sistemet kompjuterike, rrjetet dhe kodi: Biseda me miqtë dhe familjen, leximi i një libri, dëgjimi i muzikës, blerja e rrobave ose ushqimit, drejtimi i një makine, fluturimi nga një vend në tjetrin — të gjitha këto aktivitete varen nga rrjeti. Gjithnjë e më shumë, rrjeti shtrihet në pajisje që, në vitin 1999, nuk konsideroheshin të kishin shumë potencial teknologjik: pajisje shtëpiake si frigoriferë ose termostate.

Tani, ne po zbulojmë se çfarë ndjesie të rreme sigurie kemi krijuar. Së bashku me të duhet të vihet re se sa pak kuptojmë për programet që përshkojnë jetën tonë dhe rrjetet që i lidhin ato. Ndryshe nga 20 vjet më parë, ne dukemi gjithnjë e më pak të aftë për të parashikuar se çfarë do të shkojë keq, ose për ta ndaluar atë përpara se të ndodhë.

Rrjeti i infrastrukturës moderne të teknologjisë është një matricë e gjerë algoritmesh. Termi "algoritëm" dikur i referohej vetëm kodit "nëse A, atëherë B" që mund të "mësojë" duke bërë, duke qëndruar në thelbin e programeve moderne inteligjente. Tani, mund të nënkuptojë “çdo sistem vendimmarrës i madh dhe kompleks; çdo mjet për të marrë një grup të dhënash - të dhëna - dhe për t'i vlerësuar ato shpejt, sipas një sërë kriteresh, siç "shpjegoi" Andrew Smith së fundmi në Guardian.

Megjithatë, ndërsa këto sisteme vendimmarrëse janë bërë më të ndërlikuara – duke kaluar nga “algoritme me rregulla të mbyllura” më të thjeshta në algoritme më të aftë dhe më adaptues të mësimit të makinerive – arsyetimi që i drejton ato ka shkuar përtej të kuptuarit tonë. Gjatë rrugës, ne kemi humbur kontrollin e rezultateve që mund të gjenerojnë.

Merrni tregjet financiare. Megjithëse tregtia e drejtuar nga kompjuteri ishte e zakonshme përpara rrëzimit të vitit 2008, në dekadën që nga ajo kohë, programet e bazuara në algoritmikë janë përhapur në të gjithë sektorin.

"Tregjet financiare të ndërlikuara, por gjerësisht të shpjegueshme të gjeneratave të mëparshme, kanë evoluar në një xhungël elektronike me kompleksitet të pamatshëm," shkroi Robin Wrigglesworth në Financial Times në 2017. Shpejtësia me të cilën tregjet tani funksionojnë ka " u përshpejtua ndjeshëm dhe numri i anomalive të tregut, modelet e çuditshme të tregtimit dhe 'përplasjet' misterioze janë rritur së bashku me ngjitjen e algoritmeve.”

Sa më shumë që kompjuterëve u kërkohet të bëjnë dhe sa më shumë të "mësojnë" për botën që po revolucionarizojnë, aq më pak dimë për ta.

Ose merrni parasysh mënyrën se si shumë prej nesh mësojnë për botën.

Algoritmet e YouTube kanë qenë gjithmonë misterioze – por ka prova në rritje se ato janë plotësisht përçarëse. Për vite të tëra, provat anekdotike kanë treguar se algoritmet e rekomandimit të YouTube u tregojnë përdoruesve materiale gjithnjë e më ekstreme, duke u hequr atyre informacione dhe vrimat e krimbit konspirativ, duke i ekspozuar ata ndaj teorive të çuditshme për gjithçka, nga çështjet botërore deri tek ajo nëse bota është e sheshtë. Algoritmi u akuzua gjithashtu se ofronte programe shqetësuese për fëmijë, video të krijuara automatikisht të krijuara nga fjalë kyçe që portretizonin fëmijë, ose personazhe të dashur të fëmijërisë, në skenarë ekstremë dhe të çuditshëm.

Por Google, kompania mëmë e YouTube, ka qenë e paqartë për të zbuluar se si funksionojnë këto algoritme rekomandimi. Më në fund, vitin e kaluar, Guillaume Chaslot, një ish-inxhinier në YouTube, "lëshoi" kërkimin që ai kreu mbi 18 muaj që me të vërtetë "sugjeron që YouTube të amplifikojë sistematikisht videot që janë përçarëse, sensacionale dhe konspirative". Qëllimi i algoritmit të YouTube është të nxisë më shumë njerëz të shikojnë më shumë përmbajtje në faqe. Ka të ngjarë që askush nuk priste që algoritmet të vendosnin se materiali ekstrem do ta arrinte më së miri këtë qëllim, por ja ku jemi.

Algoritmet po ngatërrojnë edhe sistemin e drejtësisë.

Në vitin 2016, ProPublica "zbuloi" se një program i vlerësimit të rrezikut i përdorur nga gjykatat e shtetit të SHBA për të marrë vendime për lirimin me kusht dhe dënimin ishte në fakt shumë i keq për të vlerësuar se kush mund të kryente një krim të dhunshëm. Ai ishte gjithashtu i njëanshëm racor, duke i etiketuar gabimisht të pandehurit e bardhë si të pandehur me rrezik të ulët më shpesh sesa të pandehurit me ngjyrë, dhe "veçanërisht kishte gjasa që të flamuronte në mënyrë të rreme të pandehurit me ngjyrë si kriminelë të ardhshëm, duke i etiketuar gabimisht në këtë mënyrë, pothuajse dy herë më shumë se të pandehurit e bardhë".

Megjithatë, në kohën kur ProPublica raportoi se sa të pasakta mund të ishin rezultatet e vlerësimit të rrezikut, programi tashmë ishte bërë "gjithnjë e më i zakonshëm në sallat e gjyqeve në të gjithë vendin ... përdoret për të informuar vendimet se kush mund të lirohet i lirë në çdo fazë të sistemit të drejtësisë penale. , nga caktimi i shumave të obligacioneve… deri te vendimet edhe më themelore për lirinë e të pandehurve.” Në një numër shtetesh, për shembull, pikët "u dhanë gjyqtarëve gjatë dënimit penal".

Shembujt vazhdojnë e vazhdojnë. Jetët tona tani janë aq të ndërthurura me algoritme (mendoni, madje, programet që vendosin se çfarë mund të shikoni më pas në Netflix ose rrugën tuaj për në shtëpi në Waze) saqë ka pak mënyra për t'i shpëtuar plotësisht. Dhe më pak mënyra për të shpëtuar nga gabimet e tyre.

Kaq të kota janë këto programe sa disa besojnë se po jetojmë në fillimin e një të ashtuquajturi revolucion në inteligjencën artificiale, pasi përdorimi i programeve kompjuterike algoritmike zgjerohet në çdo aspekt të shoqërisë sonë. Nëse është kështu, ne jemi në një vend të keq për të kuptuar se çfarë mund të thotë vërtet një revolucion i drejtuar nga kodi. Sepse, në një paradoks të çuditshëm, sa më shumë që kompjuterëve u kërkohet të bëjnë dhe sa më shumë të "mësojnë" për botën që po revolucionarizojnë, aq më pak dimë për ta.

Y2K duhet të na kishte bërë të vëmë në dyshim besimin tonë në makina. Mund të ketë pasur pikërisht efektin e kundërt.

Më keq akoma, edhe përpjekja për të mësuar mund të na çojë askund. Programet mund të jenë tashmë shumë të padepërtueshme.

"Ekziston tashmë një argument që të jesh në gjendje të marrësh në pyetje një sistem AI rreth mënyrës se si arriti në përfundimet e tij është një e drejtë ligjore themelore," shkroi Will Knight në MIT Technology Review vitin e kaluar. Ai vazhdon:

Kjo mund të jetë e pamundur, edhe për sistemet që duken relativisht të thjeshta në sipërfaqe, të tilla si aplikacionet dhe faqet e internetit që përdorin mësim të thellë për të shfaqur reklama ose për të rekomanduar këngë. Kompjuterët që drejtojnë ato shërbime janë programuar vetë dhe e kanë bërë atë në mënyra që ne nuk mund t'i kuptojmë. Edhe inxhinierët që ndërtojnë këto aplikacione nuk mund ta shpjegojnë plotësisht sjelljen e tyre.

Në dy dekadat e fundit, ne kemi vazhduar pa u ndalur në ndërtimin e sistemeve kompjuterike gjithnjë e më komplekse. Ne i kemi lidhur ato së bashku përmes një rrjeti që është xhuxh, për nga kompleksiteti dhe shtrirja, ai që ekzistonte në 1999. Gjatë rrugës, ne kemi thelluar besimin tonë në aftësinë e kompjuterëve për ta bërë botën tonë një vend më të mirë, por errësuam të kuptuarit tonë se si funksionojnë ose pasojat e papritura që mund të krijojnë.

Y2K duhet të na kishte bërë të vëmë në dyshim besimin tonë në makina. Mund të ketë pasur pikërisht efektin e kundërt.

Ne mbështetemi te kompjuterët dhe kodimi i tyre për kaq shumë - për t'u treguar fëmijëve tanë botën dhe për të na informuar për atë që ndodh në të; për të ndihmuar në vendosjen se kush humbet para dhe kush i bën ato, ose kush shkon në burg dhe kush jo; për të drejtuar makinat tona dhe për të ngrohur shtëpitë tona; për të na ndihmuar të gjejmë punë; për të ndihmuar mjekët tanë të zbulojnë se çfarë nuk shkon me ne.

Por ne nuk e kuptojmë me të vërtetë se si ndodh ndonjë prej tyre. Ne thjesht besojmë se do të ndodhë.

Në vitin 1909, 90 vjet përpara frikësimit të Y2K, E.M. Forster "imagjinoi" një botë ultra të lidhur të së ardhmes. Në botën e tij të ardhshme, njerëzit jetojnë në bishtaja të vetmuara nëntokësore, duke bashkëvepruar vetëm nëpërmjet telefonit dhe ekraneve personale. Ata flasin me miqtë e tyre, marrin pjesë dhe japin leksione mbi botën, por rrallëherë i lënë gjilpërat e tyre. Çdo nevojë e tyre plotësohet nga një entitet teknologjik qendror i gjithëdijshëm dhe i fuqishëm, i referuar vetëm si Makina. "Sa kemi avancuar, falë Machine!" njerëzit i thonë njëri-tjetrit.

Por kur Makina fillon të fiket, njerëzit janë në një humbje të plotë. Për një kohë, ata sigurojnë njëri-tjetrin se kolapsi i rrjetit që po dëshmojnë rreth tyre është një pengesë e përkohshme. Makina, besojnë ata, do të rregullohet vetë. Jo, dhe manuali i udhëzimeve për Makinën që çdo njeri mban rreth tij përmban udhëzime shumë të thjeshtuara dhe të nivelit të sipërfaqes për të qenë të dobishme. Ndërsa njerëzit dërgojnë ankesat e tyre të alarmuara në Komitetin Qendror, gradualisht u duket se nuk ka njeri në fund. Është thjesht Makina e ndërtuar mbi Makinën e ndërtuar mbi Makinë, deri në fund.

Në pamundësi për të jetuar më nën tokë pa ndihmën e Makinerisë së prishur, njerëzit bëjnë rrugën e tyre drejt sipërfaqes së Tokës dhe thithin ajrin nga i cili kanë qenë të privuar për kaq shumë kohë.

Të ekspozuar ndaj një mjedisi të pandërmjetësuar nga makineritë, ajri i pastër i vret ato.