Брзиот напредок во вештачката интелигенција и алатките за надзор подобрени со вештачка интелегенција создадоа итна потреба од меѓународни норми и координација за да се постават разумни стандарди. Но, со малата веројатност угнетувачките авторитарни режими да соработуваат, светските демократии треба да почнат да се подготвуваат да играат економска тешка игра.
Пишуваат: САЈМОН ЏОНСОН, ДАРОН АЦЕМОГЛУ, и СИЛВИЈА БАРМАК / PROJECT SYNDICATE
Писателите на белетристика одамна имаат замислувано сценарија во кои секоја човечка постапка е следена од некоја штетна централизирана власт. Но, сега, и покрај предупредувањата, гледаме како се наклонуваме кон дистописка иднина достојна на делото 1984 од Џорџ Орвел. Задачата да се процени како да ги заштитиме нашите права – како потрошувачи, работници и граѓани – никогаш не била поитна.
Еден разумен предлог е да се ограничaт патентите за технологиите за надзор со цел да се обесхрабри нивниот развој и прекумерната употреба. Доколку сè друго е исто, ова би можело да го оддалечи развојот на технологии поврзани со вештачка интелигенција од апликации за надзор – барем во САД и други напредни економии, каде заштитата на патенти е битна и каде ризичните капиталисти нерадо ќе поддржат компании со недостаток на силни права на интелектуална сопственост. Но, дури и едни вакви разумни мерки да бидат донесени, светот ќе остане поделен меѓу земји со ефикасни заштитни мерки за надзор и оние без нив. Поради тоа, треба и да размислиме за легитимната основа за трговија меѓу овие блокови кои се појавуваат.
Можностите на вештачката интелигенција скокнаа во изминатите 18 месеци, а мала е веројатноста темпото на понатамошниот развој да се забави. Јавното објавување на ChatGPT во ноември 2022 година беше истрелот на генеративната вештачка интелигенција слушнат ширум светот. Но, исто толку важно беше подеднаквото брзо зголемување на можностите за надзор на владите и корпорациите. Бидејќи генеративната вештачка интелигенција се истакнува во совпаѓањето на шаблоните, препознавањето на лице стана исклучително прецизно (иако не без одредени недостатоци). И истиот општ пристап може да се користи за разликување на „добро“ и проблематично однесување, едноставно засновано на тоа како луѓето се движат или се однесуваат.
Таквата технологија за надзор води кон „повисока продуктивност“, во смисол дека ја зголемува способноста на власта да ги принуди луѓето да ги прават тоа што треба да го прават. За дадена компанија, тоа значи извршување работи за кои менаџментот смета дека е највисокото ниво на продуктивност. За дадена влада, тоа значи спроведување на законот или на друг начин обезбедување на усогласеност со оние кои се на власт.
За жал, милениумското искуство заклучи дека зголемена продуктивност не мора да води кон подобрувања во заедничкиот просперитет. Денешниот надзор со вештачка интелигенција им дозволува на заповедничките менаџери и авторитарните политички лидери поефикасно да ги спроведуваат нивните правила. Но, иако продуктивноста можеби ќе се зголеми, повеќето луѓе нема да имаат корист.
Ова не е шпекулација. Корпорациите веќе користат методи за надзор подобрени со вештачка интелигенција за да го следат секој чекор на нивните вработени. Амазон, на пример, бара од своите доставувачи да симнат аппликација (Mentor) што го оценува нивното возење – наводно во името на безбедноста. Некои возачи пријавуваат дека се следени дури и кога не работат.
Пошироко, консултантската куќа Гартнер оценува дека уделот на големите работодавци кои користат дигитални алатки за следење на нивните работници се има двојно зголемено од почетокот на пандемијата КОВИД-19, до 60%, и се очекува да достигне 70% во наредните три години. Иако расположивите докази сугерираат дека поголем надзор е поврзан со пониско ниво на задоволство од работата, дури и многу работодавци кои се согласуваат дека следењето на нивните работници создава „етичка загриженост“, тие сепак го прават тоа.
Навистина, технологијата за надзор не е по природа античовечка. Напротив, таа може да ја подобри безбедноста (како на пример со следење на активни стрелци) или практичноста. Но, мора да ја најдеме вистинската рамнотежа помеѓу овие придобивки и приватноста и мора да сториме сè што можеме за да осигураме дека технологиите на вештачка интелигенција не се пристрасни (како што е на пример врз основа на боја на кожата или полот).
Справувањето со овие прашања ќе бара нови меѓународни норми и соработка. Секоја вештачка интелигенција користена за следење и казнување на работници треба да биде обелоденета, со целосна транспарентност за тоа како дава препораки. Ако сте отпуштени од работа затоа што вештачката интелигенција сметала дека вашето однесување е проблематично, треба да можете да ја оспорите таа одлука. Но, бидејќи многу од новите вештачки интелигенции се „црни кутии“ што ниту оние кои ги развиле не ги разбираат, тие автоматски го ограничуваат опсегот на соодветниот процес.
Дури и во земја поларизирана како што е САД, луѓето веројатно ќе се обединат во корист на ограничувањата на надзорот. Сите од лево кон десно споделуваат основна загриженост за тоа дека се постојано следени, иако нивните специфични стравови се разликуваат. Истото важи и низ светските демократии.
Кина, меѓутоа, веројатно нема да соработува со напори да ја заузда неограничената употреба на алатките за надзор. Не само што систематски го има зголемено домашниот надзор за да го потисне несогласувањето и за да го следи социјалното однесување до невиден степен, исто така, ја извезува на други својата технологија за надзор. Технологијата за угнетување стана поевтина насекаде и одеднаш.
Во овој поделен свет, една група веројатно ќе развие цврсти стандарди за регулирање кога и како може да се користи надзорот. Темата ќе остане контроверзна, но, технологијата ќе биде значително под демократска контрола. Во другата група, автократските лидери ќе користат екстензивен надзор за да го држат своето население под контрола. Насекаде ќе има камери, овозможувајќи онолку угнетување колку што режимот ќе смета дека е соодветно да се користи.
Голем економски избор се наѕира за светските демократии. Дали треба да продолжиме да купуваме стоки од земји каде што работниците подлежат на технологии за надзор што ние не би ги толерирале дома? Со тоа би охрабриле повеќе надзор и повеќе угнетување од страна на режими што сè повеќе гледаат да ги поткопаат нашите демократии. Би било многу подобро за заедничкиот просперитет ако се залагаме за помалку технологија за надзор, како што е на пример со наведување дека само производи кои се целосно во согласност со нашите заштитни мерки за надзор можат да бидат дозволени на нашите пазари.
Во 90-тите и раните 2000-ти, САД и Европа ѝ доделија на Кина многу поголем пристап до нивните пазари со претпоставка дека извозот од земји со ниски плати би имал корист за домашните потрошувачи и би придонел кон демократизација на изворот. Наместо тоа, Кина стана уште поавторитарна, а растот поттикнат од извозот го поддржа режимот.
Не треба повеќе да имаме какви било илузии за последиците од дозволувањето неограничен пристап на пазарот на земји кои имаат цврста контрола врз нивните работници. Дали технологите на вештачка интелигенција ќе се користат за да им помогнат на работниците, или за да бидат лишени од нивното достоинство? Нашите трговски и патентни политики не смеат да бидат слепи на вакви прашања.
Сајмон Џонсон, поранешен главен економист во Меѓународниот монетарен фонд, е професор на Слоун школата за менаџмент на МИТ, копретседавач на Алијансата за политики COVID-19 и копретседател на Советот за системски ризик на Институтот CFA.
Дарон Ацемоглу, професор по економија на МИТ.
Силвија Бармак се занимава со наука за податоци на Универзитетот во Мичиген.
Превод: Наташа Цветковска
