Hipoteza o razrjeđivanju računalnih resursa u AI sustavima, treći dio

U ožujku sam mislio da je vezivno ograničenje računalno. Do kolovoza sam mislio da je fizičko: infrastruktura, energija i brzina kojom se nešto zapravo može izgraditi. Sada mislim da oboje stoji iznad nečeg drugog. Svako ograničenje u prva dva dijela rješava se odlukom nekoga kako ga riješiti, a to je sloj koji će se promijeniti.

Drugi dio završio je pretpostavkom, a ne zaključkom. Svaka analogija koju sam tamo upotrijebio, od prekomjerne proizvodnje tekstila do širenja robotike i vodne infrastrukture dalmatinskog otoka, funkcionira jer opisani sustavi dijele jednu konstantu: posljedične odluke unutar njih donosili su ljudi.

Ljudi su odlučivali gdje će ulagati. Upravni odbori su odlučivali o strategiji. Poduzetnici su odlučivali što će razvijati. Potrošači su odlučivali što će kupiti. Investitori su odlučivali koliko će rizika prihvatiti. Vlade su odlučivale što će regulirati.

I ljudi ne odlučuju isključivo optimizacijom. Koristimo podatke, ali i intuiciju, strah, ambiciju, ego, status, iskustvo, odanost, pohlepu, nadu, ponašanje krda i emocije. Tijekom stoljeća tehnologije su se enormno promijenile. Arhitektura donošenja odluka se nije.

To je tihi razlog zašto povijesna analogija uopće funkcionira. Nije stvar u tome što se okolnosti ponavljaju. Radi se o tome da je agens koji obrađuje te okolnosti ostao prepoznatljiv.

Umjetna inteligencija može prekinuti taj kontinuitet. Nazvao bih to hipotezom diskontinuiteta donositelja odluka : povijesni obrasci zadržavaju određenu prediktivnu moć jer je bihevioralna arhitektura koja proizvodi posljedične odluke ostala relativno stabilna. Ako umjetna inteligencija postane dominantni agent za donošenje odluka, ta se arhitektura mijenja i povijesni obrasci se možda više neće ponašati na isti način.

To je veća tvrdnja nego što se na prvi pogled čini i zaslužuje da se ispita, a ne tvrdi.

Transfer koji nitko ne potpisuje

Očiti prigovor je da se ništa od ovoga ne događa. Upravni odbori i dalje glasaju. Izvršni direktori i dalje potpisuju. Regulatori i dalje pozivaju imenovane pojedince na odgovornost. Nijedna organizacija koju poznajem nije formalno delegirala stratešku ovlast na model, a malo tko bi preživio pokušaj.

Mislim da taj prigovor promašuje mjesto gdje se prijenos zapravo događa. Formalni autoritet je zadnja stvar koja se pomiče, a ne prva. Ono što se pomiče ranije je zadana pozicija, a postoji barem pet mehanizama kojima se pomiče, a da nitko ne odluči da bi se to trebalo dogoditi.

Figure 1. Five points in an ordinary decision process where weight shifts without any transfer of authority.

Prva je zadana inverzija. U organizaciji bez analitičkih sustava, prijedlog zahtijeva trud za izradu i trud za odobrenje. Nakon što sustav generira preporuku, preporuka stiže već oblikovana. Ljudska akcija tada je potrebna za odstupanje, a ne za poštivanje. Ništa nije delegirano. Smjer napora se jednostavno preokrenuo, a trud je jedan od najjačih prediktora onoga što organizacije zapravo rade.

Drugo je asimetrični teret opravdanja. Slijeđenje dobro dokumentirane preporuke obično ne zahtijeva pismeno objašnjenje. Njeno poništavanje obično zahtijeva. Netko mora zabilježiti zašto je analiza odbijena, a taj će zapis kasnije, s retrospektivom, pročitati ljudi koji znaju ishod. Ovu asimetriju nije potrebno osmisliti. Proizlazi iz uobičajene prakse upravljanja i čini slaganje strukturno jeftinijim od neslaganja.

Treći je brzina. Nakon što sustavi proizvedu analizu brzinom stroja, ljudsko promišljanje postaje najsporiji korak u procesu. Organizacije pod konkurentskim pritiskom obično ne reagiraju usporavanjem stroja. One reagiraju komprimiranjem pregleda, a komprimirani pregled konvergira prema odobrenju, jer je odobrenje jedini odgovor koji se može dati brzo, a da ne izgleda proizvoljno.

Četvrta je odgovornost. U reguliranim i parničnim okruženjima, obranjiva pozicija obično je ona dokumentirana. Ako odluka slijedi rezultat validiranog sustava i ishod je loš, odgovornost se raspoređuje na cijeli proces. Ako je odluka u suprotnosti s tim rezultatom i ishod je loš, odgovornost se koncentrira na pojedinca koji ju je poništio. Racionalni akteri to brzo primjećuju i nije potreban cinizam da bi se djelovalo na temelju toga.

Peto, i ono koje smatram najznačajnijim, jest kontrola skupa opcija. Formalna prava odlučivanja odnose se na to koja se opcija odabire. Ona ne govore ništa o tome tko određuje koje se opcije pojavljuju. Kada sustav izradi uži izbor, okvir, kriterije usporedbe i osnovni slučaj, ljudski izbor ostaje potpuno stvaran dok djeluje unutar granica koje čovjek nije postavio. To nije novo; to je najstariji oblik utjecaja u bilo kojoj organizaciji, koji vrši svatko tko je ikada pripremio paket za upravni odbor. Novost je opseg i brzina kojom se sada može generirati okvir.

Postoji i šesti učinak koji proizlazi iz prvih pet, a ne stoji uz njih. Prosudba je uvježbana sposobnost. Ako je mogućnost samostalne procjene dostupna, ali se rijetko koristi, sposobnost njezina korištenja se smanjuje, a erozija je nevidljiva sve do trenutka kada je potrebna. Lisanne Bainbridge je to 1983. godine opisala kao jednu od ironija automatizacije: što se proces više automatizira, to je kritičnija rezidualna prosudba operatera i manje je prilika da je operater održi oštrom (Bainbridge, 1983.). Njezina tema bila je kontrola procesa i proizvodnja energije. Uzorak nije specifičan za umjetnu inteligenciju. Umjetna inteligencija je jednostavno proširuje iz kontrolne sobe u sobu za sastanke.

Nijedan od ovih mehanizama ne uključuje prijenos ovlasti. Svaki je pojedinačno razuman. Zajedno mogu uvelike pomaknuti učinkovitu težinu odlučivanja, dok svaka formalna struktura ostaje točno onakva kakva je bila.

Tko dobiva 51% odlućivanja?

Zamislite upravni odbor tvrtke koji procjenjuje veliko ulaganje za deset godina. Njegovi sustavi analizirali su svako relevantno tržište, konkurente, patente, tehnološke putanje, ponašanje potrošača, propise, energiju, lance opskrbe, makroekonomiju, geopolitiku i rezultate usporedivih povijesnih ulaganja. Analiza preporučuje jednu strategiju. Nekoliko direktora se ne slaže, a njihovo neslaganje je uglavnom intuitivno. Tko pobjeđuje?

Možda ljudi formalno zadržavaju svaki glas. Ali pretpostavimo da uprava slijedi preporuku u devedeset pet posto važnih odluka. Ljudi i dalje pravno kontroliraju tvrtku. Kontroliraju li i dalje odluku?

Relevantna varijabla možda uopće nisu formalna prava glasa, već efektivna težina odlučivanja. Ostaje li odnos 51% ljudski i 49% strojni ili na kraju postaje 49% ljudski i 51% strojni? I ako hoće, u kojem trenutku to itko primjećuje? Prijelaz nije ceremoniozan. Umjetna inteligencija jednostavno postaje točna dovoljno često da njezino poništavanje postaje sve teže opravdati upravi, regulatoru, osiguravatelju ili dioničaru.

Neugodno je to što se to može dogoditi čak i kada se svaka pojedinačna odluka poboljšava. Sustav može povećati prosječnu kvalitetu ishoda i istovremeno pomaknuti točku u kojoj se ishod zapravo određuje.

Figure 2. Formal authority against effective decision weight.

Robotaxi u Zagrebu

Primijetio sam malu ilustraciju problema dok sam gledao testiranje robotaksija u Zagrebu. Kada je autonomno vozilo trebalo promijeniti traku, činilo se da se muči pronaći priliku koja zadovoljava njegove sigurnosne zahtjeve. Vozači oko njega ponašali su se drugačije. Prihvaćali su manje razmake, ubrzavali, zatvarali prostore, signalizirali namjeru kretanjem vozila, a ponekad su jednostavno prihvaćali veći rizik. Vozilo je racionalno tražilo dovoljno siguran otvor u sustavu naseljenom agentima koji djeluju pod potpuno drugačijom funkcijom rizika, što je rezultiralo oklijevanjem i kašnjenjem.

Zanimljivo pitanje nije vozi li robotaxi bolje ili lošije od ljudi oko sebe. Prema bilo kojoj razumnoj sigurnosnoj metrici, mogao bi voziti bolje. Poanta je u tome da, prema jednoj arhitekturi odlučivanja, racionalno ponašanje može postati neučinkovito u sustavu kojim dominira druga.

Sada skalirajte to opažanje. Umjetna inteligencija alocira kapital dok ljudi nagađaju. Umjetna inteligencija upravlja nabavom dok ljudi emocionalno pregovaraju. Umjetna inteligencija preporučuje prekid programa istraživanja i razvoja, dok njezin osnivač odbija, vjerujući da je proboj udaljen samo jedan eksperiment. Nabavni agenti umjetne inteligencije optimiziraju cijenu i korisnost, dok ljudi nastavljaju kupovati proizvode koji komuniciraju identitet, a ne pružaju funkciju.

Neko razdoblje, a to može biti dugo, nećemo nastanjivati ni ekonomiju kojom upravljaju ljudi ni ekonomiju kojom upravljaju strojevi. Nastanjivat ćemo složeni adaptivni sustav miješanih agencija u kojem dvije arhitekture odlučivanja s različitim funkcijama rizika, vremenskim horizontima i tolerancijom na dvosmislenost djeluju na istom tržištu istovremeno. Trenje u takvom sustavu nije prijelazna neugodnost. To je strukturno svojstvo mješavine.

Pitanje na koje bi stroj drugačije odgovorio

Postoji jedna odluka gdje razlika između dvije arhitekture postaje konkretna, a ne teorijska, i to je odluka s kojom će se većina lidera u proizvodima i istraživanju i razvoju suočiti ovog desetljeća: kada ući u revolucionarnu tehnologiju.

Dva obrasca dominiraju poviješću te odluke i oba su poznata. Prvi je čekanje. Neka tehnologija prođe kroz proces usvajanja, neka se krivulja difuzije riješi, neka uđe kada se cijena neizvjesnosti utvrdi. Ako predugo čekate, ne preostaje ništa za uzeti. Kodak je slučaj za kojim svi posežu, iako ono što Kodaku nikada nije nedostajalo bila je tehnologija. Godinama je posjedovao digitalne patente i nije ih mogao aktivirati bez uništavanja marže koja je plaćala sve ostalo.

Drugo je skokovito ulaganje. Obvežite se rano, javno i u velikim razmjerima, prije nego što infrastruktura, tržište ili stopa prihvaćanja to opravdaju. Nekoliko etabliranih proizvođača automobila učinilo je upravo to pri prelasku na električna vozila, i učinilo je to brzo, te sada žive s posljedicama.

Vrijedi primijetiti da oba obrasca rade na istom gorivu. Čekanje je potaknuto strahom od nasukavanja investicije. Skakanje je potaknuto strahom da ne postanete sljedeća opomena. Niti je analiza. Oba su strah, usmjeren u suprotnim smjerovima, i zajedno čine vrlo velik udio strateških odluka zabilježenih u poslovnoj povijesti.

Figure 3. Two entry timings and the trajectories they produce. The third has no recorded shape.

Sada uklonite gorivo. Sustav koji optimizira prema navedenim ciljevima, ograničenjima, vjerojatnostima i dostupnim podacima ne doživljava ni jedan ni drugi strah. Nema ego uložen u prethodnu strategiju, nema status koji bi trebao braniti pred pločom, nema averziju prema gubitku, nema instinkt za djelovanje jer se konkurent pomaknuo. Ako taj sustav odluči kada će ući, nema posebnog razloga zašto bi odabrao bilo koji od dva obrasca koje ljudi izmjenjuju već stoljeće. Moguće je da će odabrati i treću stvar, a razlog zašto povijest ne nudi smjernice o tome kako ta treća stvar izgleda jest taj što povijest ne sadrži nijednog akter koji je odlučio bez straha.

Ovo je oštriji oblik diskontinuiteta i protivi se uobičajenom prigovoru. Moglo bi se tvrditi da će se strojevi jednostavno brže okupljati, pridružujući se istim stampedima iz istih razloga. To vrijedi samo ako se stroju daju ljudski inputi s kojima može raditi. Simulirajte ego, averziju prema gubitku, društveni pritisak i intuiciju, nasumično ih rasporedite i sigurno možete reproducirati ljudsko donošenje odluka u siliciju. Ali u tom trenutku, to je računalni model ljudske odluke, a ne strojne odluke, i zanimljivi slučaj je isključen.

Granica ovoga, i to stvarna, jest da uklanjanje straha iz rasuđivanja ne uklanja strah iz cilja. Sustav se optimizira prema cilju, a taj cilj pišu ljudi s karijerama, upravnim odborima i reputacijom. Ego se ne eliminira. On se pomiče korak uzvodno, u definiciju onoga što se smatra dobrim ishodom. To je tihi razlog zašto je odabir cilja, o kojem će biti riječi u nastavku, važniji od bilo kojeg pitanja o sposobnosti.

Racionalniji agenti ne stvaraju racionalniji sustav

Postoji još jedan paradoks, i to je onaj koji mi je najteže opovrgnuti.

Pretpostavimo da strojno donošenje odluka postane izvanredno racionalno. Tisuće korporativnih sustava analiziraju istu tehnološku priliku. Oni se oslanjaju na preklapajuće podatke, dijele velik dio svoje temeljne arhitekture i razmišljaju prema sličnim zaključcima. Identificiraju istu superiornu investiciju. Svi preporučuju ulazak.

Kapital preplavljuje sektor. Konkurencija eksplodira. Ponuda premašuje potražnju. Marže se urušavaju. A ulaganje koje je bilo racionalno za svakog pojedinog subjekta postaje neatraktivno upravo zato što je svaki drugi racionalni subjekt došao do istog zaključka.

Vraćamo se na primjer robotike iz drugog dijela, s jednom razlikom: konvergencija se događa mnogo brže, a raznolikost koja ju je prije usporavala je nestala.

Ovdje bih trebao biti oprezan, jer je kontrast lako preuveličati. Ljudski donositelji odluka također se konvergiraju, i to često nasilno. Kada konkurent krene prvi i čini se da stvara vrijednost, većina organizacija slijedi ga unutar godine dana, vođena manje analizom nego strahom da će postati sljedeća opomena. Rezultat je već vidljiv u većini industrija: tržište se puni gotovo identičnim proizvodima koje nitko nije baš odabrao. Skupljanje nije izum stroja.

Razlika je u mehanizmu, brzini i razini. Ljudsko stado temelji se na statusu i strahu, širi se kroz ljude koji međusobno razgovaraju i ostaje bučno jer je strah neravnomjerno raspoređen. Neki su previše ponosni da bi ih slijedili, neki su prespori, neki štite posao koji bi trend kanibalizirao. Ta buka imala je sistemsku funkciju koju nitko nije dizajnirao i nitko nije cijenio: funkcionirala je kao gruba diverzifikacija u cijelom gospodarstvu. Konvergencija strojeva nema takvu razinu. Proizlazi iz slaganja, a ne iz straha, širi se brzinom API poziva, a svako neslaganje koje ostane odražavat će razlike u podacima i konfiguraciji, a ne razlike u temperamentu.

Figure 4. Convergence has more than one shape.

Ovo se nadovezuje na prethodni odjeljak, a ne proturječi mu, a sparivanje je neugodan dio. Strojevi se mogu razlikovati od ljudi, donoseći odluke o ulasku koje nijedan ljudski obrazac ne bi proizveo. Nema razloga očekivati da će se međusobno razlikovati. Populacija agenata koji svi odbijaju stampedo i svi identificiraju isti bolji trenutak ipak je konvergirala. Jednostavno je konvergirala negdje novo. Uklanjanjem straha uklanja se buka koju generira, a ta buka je obavljala strukturni rad koji nitko nije uzeo u obzir.

Složeni adaptivni sustavi ne zahtijevaju iracionalne aktere da bi proizveli neočekivane ishode. Individualno racionalno ponašanje je sasvim dovoljno. Umjetna inteligencija stoga može ukloniti neke ljudske pristranosti, a istovremeno dramatično ubrzati povratne petlje koje su u početku proizvele nestabilnost.

Gdje bi ljudska odluka trebala ostati

Dosadašnji argument ide u jednom smjeru, stoga je vrijedno pravilno navesti protutežu, a ne kao ustupak.

Postoje kategorije odluka gdje bi ljudski autoritet trebao ostati odlučujući, a ne zato što ih ljudi odlučuju bolje. U nekoliko tih slučajeva ljudi ih očito odlučuju lošije. Trebali bi ostati ljudski jer odluka ima svojstva koja optimizaciju čine pogrešnim okvirom.

Prva kategorija je nepovratnost. Optimizacija djeluje na temelju očekivane vrijednosti, što je ispravan instrument kada su ishodi nadoknadivi i proces se ponavlja. To je loš instrument kada jedan ishod završava proces. Zatvaranje pogona, trajni izlazak s tržišta, puštanje nečega što se ne može povući i svaka odluka čiji je nedostatak nepopravljiv pripadaju drugoj klasi. Relevantno pitanje nije koja opcija ima najbolji očekivani ishod, već koje neuspjehe organizacija može preživjeti.

Drugo je odabir cilja, a on nosi veću težinu od ostalih jer sve gore navedeno ovisi o njemu. Svaki sustav optimizira prema cilju koji mu je zadan. Odabir tog cilja, odlučivanje o tome čemu organizacija zapravo služi, koji su kompromisi prihvatljivi i čiji se interesi uzimaju u obzir, vrijednosni je sud, a ne izračun. Ovdje se također vraća strah za koji sam tvrdio da je uklonjen. Rasuđivanje može biti oslobođeno ega i averzije prema gubitku; cilj i dalje pišu ljudi koji imaju karijere, upravne odbore i ugled koje moraju zaštititi. Ego se ne eliminira boljom analizom. On se pomiče korak uzvodno, u definiciju onoga što se smatra dobrim ishodom, gdje ga je puno teže vidjeti. Delegiranje optimizacije uz uvjerenje da ste delegirali strategiju najvjerojatniji je neuspjeh upravljanja sljedećeg desetljeća i neće izgledati kao neuspjeh dok se događa.

Treća je neprenosiva odgovornost. Neke se obveze vežu za osobe, a ne za procese. Regulator sankcionira imenovanu osobu. Sud smatra odgovornim službenika. Zajednica smatra odgovornom tvrtku. Tamo gdje se odgovornost ne može distribuirati, ne bi se trebala distribuirati ni ovlast donošenja odluka, jer se sustavu koji se ne može smatrati odgovornim ne može povjeriti odluka za koju netko mora biti odgovoran.

Četvrto je legitimnost, a prigovor na njezino uključivanje jest da je prihvaćanje komunikacijski problem, a ne pitanje tko je odlučio. Mislim da to ne vrijedi. Privola se obično uskraćuje iz određenog razloga: ljudi od kojih se traži da snose trošak ne vjeruju da će donositelj odluke snositi bilo koji dio toga. To je tvrdnja o izloženosti, a ne o objašnjenju, i na nju se ne može odgovoriti boljom porukom. Sustav nema što izgubiti, zbog čega je odluku koja se pripisuje nekome teže prihvatiti. A odluka koju nitko ne prihvaća nije superiorna odluka ni u kojem operativnom smislu, bez obzira na njezinu kvalitetu na papiru.

Peta je istinska novost. Sustavi obučeni na prošlosti dobro funkcioniraju kada sutra nalikuje jučer, što obično i jest. Odluke koje određuju sudbinu organizacije nesrazmjerno se donose u slučajevima kada to nije slučaj. Ovo je najmanja kategorija po obimu, a najveća po posljedicama.

Ono što je zajedničko ovim pet tvrdnjama jest da nijedna od njih ne tvrdi o sposobnosti. To su tvrdnje o strukturi odluke. Ta razlika je važna, jer argumenti o sposobnostima zastarjevaju kako se sustavi poboljšavaju. Strukturni argumenti ne.

Što bi pokazalo da je ovo pogrešno

Hipoteza koja ne može propasti nije hipoteza, stoga vrijedi reći što bi se protiv nje uračunalo.

Ako se efektivna težina odluke zaista mijenja, gore opisani mehanizmi trebali bi ostaviti tragove. Stope poništavanja trebale bi se s vremenom smanjivati u organizacijama koje usvajaju ove sustave, a zabilježeni razlozi za poništavanje trebali bi postati kraći i proceduralniji. Ciklusi pregleda trebali bi se sažeti. Neslaganje unutar tvrtki koje koriste slične sustave trebalo bi početi izgledati slično u različitim tvrtkama. A kada stvari krenu po zlu, obdukcije bi trebale pokazati da je odluka učinkovito donesena prije nego što je stigla do ljudi formalno odgovornih za njezino donošenje.

Ako umjesto toga stope poništavanja ostanu stabilne, ako neslaganje među organizacijama ostane jednako raznoliko kao danas i ako upravni odbori rutinski odbacuju dobro potkrijepljene preporuke bez da se to tretira kao neuspjeh u upravljanju, tada su mehanizmi koje sam opisao slabiji nego što mislim, a ljudska prosudba je otpornija na proceduralni pritisak nego što ovaj argument pretpostavlja.

Radije bih da sam u tom smjeru pogriješio.

Zaključak: Pitanje koje je zapravo važno

Umjetna inteligencija može biti tehnološki neviđena, a istovremeno djelovati unutar ekonomskih i bihevioralnih obrazaca koje je čovječanstvo mnogo puta prije proživjelo. To je bio argument drugog dijela i ja ga se još uvijek držim.

Ali to nosi uvjet isteka. Obrasci su se održali jer je agent ostao konstantan. Promijenite agenta i povijesna analogija slabi, ne zato što povijest prestaje biti poučna, već zato što se promijenio mehanizam koji ju je učinio poučnom.

Možda najveći poremećaj u povijesti umjetne inteligencije neće nastupiti kada stroj postane sposoban proizvesti nešto bolje od nas. Doći će kada ljudi počnu vjerovati strojevima da odlučuju što treba proizvoditi, što treba razvijati, gdje treba ulagati resurse i koje rizike treba preuzeti. U tom trenutku više ne koristimo umjetnu inteligenciju za optimizaciju složenog adaptivnog sustava. Umjetna inteligencija postala je jedan od čimbenika koji određuju kako se sustav razvija.

Koristan odgovor nije opirati se promjeni, što nije ni realno ni poželjno s obzirom na to koliko će se odluka poboljšati. Treba biti eksplicitan o tome koje se odluke premještaju i primijetiti da su mehanizmi koji provode premještanje proceduralni, a ne namjerni. Zadane postavke, teret opravdanja, brzina pregleda, izloženost odgovornosti i kontrola skupa opcija su upravljivi. Međutim, njima može upravljati samo organizacija koja ih je proučila, a većina organizacija trenutno umjesto toga gleda na sposobnosti.

Pročitana zajedno, tri dijela izgledaju kao tri teme i zapravo su jedno pitanje: tko dobiva sljedeću jedinicu rijetkog resursa. U ožujku taj je resurs izgledao računalno, a argument je bio pretpostavka. Pet mjeseci kasnije to je bio opis onoga što je industrija govorila naglas, a rijetka stvar postala je fizička: čipovi, energija, postrojenje i godine potrebne za izgradnju bilo kojeg od njih. Ništa od toga se neće brzo riješiti, što znači da je sljedeće desetljeće uglavnom desetljeće odluka o alokaciji. Tko dobiva kapacitet, za što se koristi, koliko i kada. To su ista četiri pitanja, bez obzira je li resurs sati rada grafičke kartice ili opskrba vodom otoka.

Ono što se ne mijenja nije popis pitanja. Mijenja se tko na njih odgovara, a ovaj dio tvrdi da se odgovor već mijenja bez da itko glasa o njemu.

Računanje, energija, infrastruktura, pažnja, djelovanje. Lanac se ne zaustavlja i nema razloga pretpostaviti da je djelovanje posljednja stanica na njemu. Ono što se nalazi iza njega manje je ugodno. Ako svaki agent optimalno odlučuje o preklapajućim podacima, postaje otvoreno pitanje što se događa s mehanizmom koji je cijelo vrijeme koordinirao te odluke, jer razmjena pretpostavlja neslaganje oko vrijednosti. Zasad ciljeve još uvijek pišu ljudi, i dok to čine, neslaganje ne nestaje. Prelazi iz procjene u preferenciju. To je tema za drugi članak.

Ljudi možda još uvijek imaju 51% glasova. Važno je pitanje hoćemo li i dalje imati 51% u donošenju odluka i hoćemo li moći prepoznati razliku na vrijeme kako bismo mogli odlučiti.

Ovaj članak predstavlja autorova osobna zapažanja i konceptualne hipoteze. Riječ je o konceptualnom argumentu, a ne o empirijskom istraživanju, a primjeri se koriste za istraživanje ponavljajućih obrazaca u arhitekturi odlučivanja i složenim adaptivnim sustavima, a ne za utvrđivanje uzročno-posljedičnih odnosa.

Koncepti: Hipoteza diskontinuiteta donositelja odluka; Efektivna težina odluke; Inverzija zadanih postavki; Asimetrični teret opravdanja; Upravljanje skupom opcija; Sustavi mješovite agencije; Složeni adaptivni sustavi.

Reference

Bainbridge, L. (1983). Ironije automatizacije. Automatica, 19 (6), 775-779. https://doi.org/10.1016/0005-1098(83)90046-8

Druga osobna zapažanja i konceptualni modeli: Autor.