W miarę jak algorytmy uczenia maszynowego zdominują procesy decyzyjne w biznesie, polityce i społeczeństwie, presja na udostępnianie większej ilości danych osobowych będzie stale rosła, a ochrona prywatności ulegnie erozji. Jeśli nie przejmiemy sterów tych nowych technologii, mogą one doprowadzić nas do systemu politycznego, którego nie wybraliśmy.
Około 1200 r. p.n.e. dynastia Shang w Chinach opracowała system fabryczny do budowy tysięcy ogromnych naczyń z brązu do użytku w życiu codziennym i ceremoniach rytualnych. W tym wczesnym przykładzie produkcji masowej proces odlewania brązu wymagał skomplikowanego planowania i koordynacji dużych grup pracowników, z których każdy wykonywał osobne zadanie we właściwej kolejności.
Podobnie złożony proces przeszedł w kształtowanie słynnej armii wojowników z terakoty, którą Qin Shi Huang, pierwszy cesarz Chin, odsłonił tysiąc lat później. Według Muzeum Sztuki Azjatyckiej w San Francisco posągi „zostały stworzone przy użyciu systemu produkcji montażowej, który utorował drogę postępowi w masowej produkcji i handlu”.
Niektórzy uczeni spekulowali, że te wczesne formy technologii pracy nakazowej odegrały dużą rolę w kształtowaniu chińskiego społeczeństwa. Wydaje się, że między innymi predysponują one ludzi do akceptowania struktur biurokratycznych, filozofii społecznej kładącej nacisk na hierarchię oraz przekonania, że istnieje jeden właściwy sposób robienia rzeczy.
Kiedy w XIX wieku w Europie wprowadzono fabryki przemysłowe, nawet zagorzali krytycy kapitalizmu, tacy jak Fryderyk Engels, przyznali, że masowa produkcja wymaga scentralizowanej władzy, niezależnie od tego, czy system gospodarczy jest kapitalistyczny, czy socjalistyczny. W XX wieku teoretycy tacy jak Langdon Winner rozszerzyli ten sposób myślenia na inne technologie. Uważał, że na przykład bomba atomowa powinna być uważana za „samoistnie polityczny artefakt”, ponieważ jej „śmiercionośne właściwości wymagają, aby była kontrolowana przez scentralizowany, ściśle zhierarchizowany łańcuch dowodzenia”.
Dziś możemy posunąć to myślenie jeszcze dalej. Weźmy pod uwagę algorytmy uczenia maszynowego, najważniejszą obecnie używaną technologię ogólnego przeznaczenia. Korzystając z rzeczywistych przykładów, aby naśladować ludzkie zdolności poznawcze, algorytmy te stają się już wszechobecne w miejscu pracy. Aby jednak w pełni wykorzystać te technologie, organizacje muszą przedefiniować zadania ludzkie jako zadania predykcyjne, które lepiej pasują do mocnych stron tych algorytmów.
Kluczową cechą algorytmów uczenia maszynowego jest to, że ich wydajność poprawia się wraz z większą ilością danych. W rezultacie zastosowanie tych algorytmów stwarza technologiczny impuls do traktowania informacji o ludziach jako danych możliwych do zapisania i dostępnych. Podobnie jak system masowej produkcji, są one „z natury polityczne”, ponieważ ich podstawowa funkcjonalność wymaga pewnych praktyk społecznych i zniechęca do innych. W szczególności algorytmy uczenia maszynowego są bezpośrednio sprzeczne z dążeniem jednostek do zachowania prywatności.
System oparty na publicznej dostępności informacji o poszczególnych członkach społeczności może wydawać się przystępny dla komunitarian, takich jak socjolog Amitai Etzioni, dla którego ograniczenia prywatności są sposobem na egzekwowanie norm społecznych. Ale w przeciwieństwie do komunitarian, algorytmy są obojętne na normy społeczne. Ich jedynym zmartwieniem jest lepsze przewidywanie poprzez przekształcanie coraz większej liczby obszarów ludzkiego życia w zbiory danych, które można eksplorować.
Co więcej, podczas gdy siła imperatywu technologicznego zmienia indywidualistycznych ludzi Zachodu w przypadkowych komunitarystów, czyni ich również bardziej przywiązanymi do kultury merytokracji opartej na algorytmicznych ocenachmi. Czy to w pracy, w szkole, czy nawet w aplikacjach randkowych, przyzwyczailiśmy się już do tego, że nasze uprawnienia są oceniane przez bezosobowe narzędzia, które następnie przypisują nam pozycje w hierarchii.
Oczywiście ocena algorytmiczna nie jest niczym nowym. Pokolenie temu uczeni tacy jak Oscar H. Gandy ostrzegali, że zmieniamy się w społeczeństwo punktowane i oceniane, i domagali się większej odpowiedzialności i zadośćuczynienia za błędy spowodowane technologią. Jednak w przeciwieństwie do nowoczesnych algorytmów uczenia maszynowego starsze narzędzia oceny były dość dobrze rozumiane. Podejmowali decyzje na podstawie odpowiednich czynników normatywnych i empirycznych. Na przykład nie było tajemnicą, że gromadzenie dużej ilości debetów na kartach kredytowych może zaszkodzić zdolności kredytowej.
Z kolei nowe technologie uczenia maszynowego badają głębię dużych zbiorów danych, aby znaleźć korelacje, które są przewidywalne, ale słabo poznane. W miejscu pracy algorytmy mogą śledzić rozmowy pracowników, miejsce, w którym jedzą lunch, ile czasu spędzają przy komputerze, telefonie lub na spotkaniach. Dzięki tym danym algorytm opracowuje wyrafinowane modele produktywności, które znacznie przewyższają nasze zdroworozsądkowe intuicje. W algorytmicznej merytokracji wszystko, czego wymagają modele, staje się nowym standardem doskonałości.
Jednak technologia nie jest przeznaczeniem. Kształtujemy ją, zanim ona kształtuje nas. Liderzy biznesowi i decydenci mogą opracowywać i wdrażać technologie, których chcą, zgodnie ze swoimi potrzebami instytucjonalnymi. W naszej mocy leży zarzucenie siatek prywatności wokół wrażliwych obszarów ludzkiego życia, ochrona ludzi przed szkodliwym wykorzystaniem danych oraz wymaganie, aby algorytmy równoważyły precyzję z innymi wartościami, takimi jak uczciwość, odpowiedzialność i przejrzystość.
Ale jeśli będziemy podążać za naturalnym przepływem logiki algorytmicznej, nieunikniona będzie kultura bardziej merytokratyczna i wspólnotowa. A ta stała transformacja będzie miała daleko idące implikacje dla naszych demokratycznych instytucji i struktur politycznych. Jak zauważyli chińscy uczeni Daniel A. Bell i Zhang Weiwei, główną polityczną alternatywą dla zachodnich tradycji liberalno-demokratycznych są instytucje wspólnotowe, które nadal ewoluują w Chinach.
W Chinach zbiorowe decyzje nie są uzasadnione wyraźną zgodą obywateli, a obywatele generalnie mają mniej możliwych do wyegzekwowania praw wobec rządu, zwłaszcza jeśli chodzi o inwigilację. Rola zwykłego obywatela Chin w życiu politycznym ogranicza się w dużej mierze do udziału w wyborach lokalnych. Tymczasem przywódcy kraju są wybierani w procesie merytokratycznym i uważają się za strażników dobrobytu ludzi.
Jest mało prawdopodobne, aby liberalne demokracje całkowicie przestawiły się na taki system polityczny. Jeśli jednak utrzymają się obecne trendy w kulturze biznesowej i konsumenckiej, wkrótce możemy mieć więcej wspólnego z chińską tradycją merytokratyczną i wspólnotową niż z naszą własną historią indywidualizmu i liberalnej demokracji. Jeśli chcemy zmienić kurs, będziemy musieli przedłożyć własne imperatywy polityczne nad imperatywy naszych technologii.
Mark MacCarthy
Wydział, Uniwersytet Georgetown
Artykuły Światowego Forum Ekonomicznego mogą być publikowane ponownie zgodnie z międzynarodową licencją publiczną Creative Commons Uznanie autorstwa-Użycie niekomercyjne-Bez utworów zależnych 4.0 oraz zgodnie z naszymi Warunkami użytkowania.
Poglądy wyrażone w tym artykule są poglądami samego autora, a nie Światowego Forum Ekonomicznego.
Obraz wyróżniający: Oddziały Terakotowej Armii. CC BY-SA 3.0, https://commons.wikimedia.org/w/index.php?curid=126311
