Co-Intelligence

Kniha Co-Intelligence sa začína jednoduchým, no znepokojujúcim tvrdením: umelá inteligencia už nie je iba špecializovaná technológia používaná inžiniermi. Generatívna umelá inteligencia sa dokáže rozprávať, písať, tvoriť nápady, vysvetľovať, kritizovať a vytvárať materiály, ktoré pôsobia prekvapivo kompetentne. Preto pripomína menej obyčajný softvér a viac spolupracovníka. Ústredná otázka Ethana Mollicka teda neznie iba, čo umelá inteligencia dokáže. Znie: ako majú ľudia žiť a pracovať, keď sa stroj môže podieľať na častiach ľudského myslenia? Táto kniha vznikla v roku dvetisíc dvadsaťštyri, počas mimoriadne rýchlej ranej fázy verejného používania generatívnej umelej inteligencie. Jej príklady patria do tohto obdobia a jej tvrdenia by sme nemali chápať ako rebríček dnešných systémov v roku dvetisíc dvadsaťšesť. Trvalejšie posolstvo sa týka správania: keďže schopnosti sa menia rýchlo a nepredvídateľne, ľudia si musia úsudok rozvíjať priamou a opatrnou skúsenosťou. Mollick odmieta dve jednoduché reakcie. Prvou je odmietnutie: predpoklad, že umelá inteligencia je iba trik, pretože občas vytvára nezmysly. Druhou je odovzdanie kontroly: predpoklad, že plynulý výstup znamená porozumenie svetu a schopnosť nahradiť ľudskú zodpovednosť. Obe reakcie prehliadajú skutočnosť, že tieto nástroje môžu byť naozaj užitočné a zároveň nespoľahlivé. Praktickou výzvou je vytvoriť si vzťah k umelej inteligencii, ktorý rozšíri ľudské schopnosti bez oslabenia ľudskej samostatnosti.

Mollick tento vzťah nazýva spoluinteligencia. Neznamená to, že ľudia a umelá inteligencia majú rovnakú myseľ, rovnaké morálne postavenie alebo rovnaký druh porozumenia. Znamená to, že ľudia môžu čoraz častejšie vykonávať prácu premýšľaním popri umelom systéme. Systém dodáva jazyk, vzorce, alternatívy a rýchle odpovede. Človek dodáva ciele, kontext, vkus, hodnoty, životnú skúsenosť a zodpovednosť. Toto rozdelenie je dôležité, pretože umelá inteligencia môže pôsobiť ľudskejšie, než v skutočnosti je. Hovorí konverzačným štýlom, prispôsobuje sa pokynom a dokáže napodobniť odbornosť. Vďaka tomu je užitočné komunikovať s ňou, akoby bola členom tímu. Môžete ju požiadať, aby prijala určitú úlohu, vysvetlila svoje uvažovanie, spochybnila návrh alebo prispôsobila odpoveď cieľovému publiku. Zaobchádzať s ňou ako s človekom je však pracovná metóda, nie presvedčenie, že je vedomá, dôveryhodná alebo morálne zodpovedná. Predstavme si napríklad riaditeľku neziskovej organizácie, ktorá plánuje komunitný workshop. Umelá inteligencia môže navrhnúť program, prepísať pozvánky pre rôzne skupiny, predvídať otázky a vytvoriť kontrolný zoznam. Nepozná však históriu komunity, pokiaľ jej riaditeľka neposkytne vhodný kontext. Nemôže rozhodnúť, ktoré sľuby sú etické, ktoré údaje sú dôverné ani či je zdanlivo uhladené tvrdenie pravdivé. Nástroj prispieva možnosťami. Človek určuje účel a prijíma dôsledky. Pre Mollicka z toho vyplýva, že umelá inteligencia nie je ani iba rýchlejším vyhľadávacím poľom, ani autonómnym zamestnancom. Je nezvyčajne pružným partnerom, ktorého silné a slabé stránky musíme objaviť používaním.

Kľúčovou myšlienkou knihy je nerovnomerná hranica schopností. Technológiu si často predstavujeme ako niečo, čo sa zlepšuje v úhľadnej línii: najprv sa automatizujú jednoduché úlohy a potom nasledujú náročnejšie. Generatívna umelá inteligencia tak nepôsobí. Môže vynikať v úlohe, ktorá vyzerá sofistikovane, napríklad pri tvorbe niekoľkých presvedčivých marketingových konceptov alebo zhrnutí dlhého dokumentu, a potom zlyhať pri niečom, čo by zvládol pozorný začiatočník, napríklad pri zachovaní kľúčového faktu alebo dodržaní zjavného obmedzenia. Hranica kompetencie je zubatá, pretože úlohy, ktoré sa ľuďom zdajú podobné, môžu byť pre systém umelej inteligencie veľmi odlišné. Model môže manažérovi pomôcť vytvoriť desať spôsobov, ako viesť náročný rozhovor, no v záverečnej správe si pomýliť mená, dátumy, pravidlá alebo medziľudské súvislosti. Môže ponúknuť elegantné vysvetlenie vedeckého pojmu a pritom potichu zameniť dve štúdie. Plynulosť nie je dôkazom správnosti. Preto sú pracovné pozície slabým vodidlom pri rozhodovaní o tom, čo možno delegovať. „Učiteľ“, „právnik“, „dizajnér“, „analytik“ a „manažér“ sú zoskupenia mnohých úloh. Niektoré časti môže umelá inteligencia posilniť, iné si vyžadujú špecializované ľudské znalosti, prístup k spoľahlivým dôkazom, etický úsudok alebo skutočné vzťahy. Rozumnou jednotkou experimentovania je úloha, nie celé povolanie. Mollickovou praktickou odpoveďou je disciplinované testovanie. Najprv skúšajte umelú inteligenciu pri práci s nízkym rizikom. Porovnávajte jej výstup so známymi štandardmi. Položte tú istú otázku v niekoľkých podobách. Hľadajte opakovateľnú hodnotu a opakujúce sa spôsoby zlyhania. Ak nástroj pomáha vytvárať prvé návrhy, no pravidelne si vymýšľa zdroje, môže byť vhodný na hľadanie nápadov, nie na nesledovaný výskum. Premyslený pilotný projekt naučí viac než veľkolepý sľub, že umelá inteligencia automaticky zvýši produktivitu všetkých.

Mollick svoj prístup usporadúva do štyroch pravidiel. Prvým je prizvať umelú inteligenciu k stolu. Neznamená to používať ju na všetko ani považovať každý jej výstup za hodnotný. Znamená to skúmať jej možnosti dostatočne široko, aby sme zistili, kde môže pomôcť. Užitočné využitie nového univerzálneho nástroja sa nedá spoľahlivo odhadnúť z diaľky. Špecialista na verejné obstarávanie ju môže napríklad vyskúšať ako partnera na hľadanie otázok pre dodávateľov, nástroj na formátovanie poznámok zo stretnutí, kritika návrhu procesu a simulátora námietok zainteresovaných strán. O tom, čo zostane, by mali rozhodovať výsledky, nie nadšenie okolo technológie. Druhým pravidlom je zostať človekom v rozhodovacom procese. Ľudia musia riadiť prácu, kontrolovať výsledok a urobiť konečné rozhodnutie. Najviac to platí vtedy, keď rozhodnutia ovplyvňujú peniaze, zdravie, zamestnanie, bezpečnosť, práva, povesť alebo životy iných ľudí. Overenie nie je obradné pozretie sa na odpoveď. Znamená kontrolu zdrojov, výpočtov, predpokladov, vynechaných informácií a súladu so skutočnou situáciou. Znamená tiež priznať si, keď nemáte potrebné znalosti na posúdenie výstupu, a vyhľadať kvalifikovanú kontrolu namiesto predstierania, že problém vyriešila umelá inteligencia. Po tretie, zaobchádzajte s umelou inteligenciou ako s človekom, no nezamieňajte si to s presvedčením, že človekom je. Rozhovor býva často najúčinnejším rozhraním. Dajte systému úlohu, cieľ, dôležité pozadie, obmedzenia, príklady a definíciu dobrej odpovede. Ak ho požiadate, aby vystupoval ako skeptický zákazník, môže priniesť iný výsledok než všeobecná žiadosť o spätnú väzbu. Ak ho požiadate, aby novému zamestnancovi vysvetlil pojem a potom ho preskúšal, môže vytvoriť užitočný tréning. Persona je však nástrojom na tvorbu zadania. Zo systému neurobí skutočného zákazníka, odborníka ani kolegu. Štvrtým pravidlom je predpokladať, že toto je najhoršia umelá inteligencia, akú kedy budete používať. V kontexte knihy z roku dvetisíc dvadsaťštyri to bol argument proti vytváraniu pevných predpokladov okolo rýchlo sa meniacej technológie. Dnešný význam nie je v tom, že každé budúce vydanie zlepší každú úlohu alebo že organizácie majú naháňať novinky. Znamená to, že pracovné postupy, pravidlá a zručnosti musia byť prispôsobiteľné. Budujte si návyky učenia a kontroly namiesto zmrazenia procesu okolo schopností dostupných v jednom okamihu.

Mollick skúma niekoľko úloh, ktoré môže umelá inteligencia zastávať. Ako tvorivý partner môže zlacniť nadbytok nápadov. Prázdna strana sa zmení na rozhovor: vytvárajte alternatívy, kombinujte dva smery, navrhujte metafory, spisujte námietky alebo zámerne píšte zlé verzie, aby bolo jasnejšie, ako vyzerá dobrá. Jej hodnota často nie je v konečnom texte. Spočíva v rozbehu, variácii a podnete, ktorý človeka prinúti robiť presnejšie rozhodnutia. Ako spolupracovník môže umelá inteligencia prevziať ohraničené časti znalostnej práce: usporiadať materiál, premeniť hrubé poznámky na návrh štruktúry, preložiť zložitú myšlienku do viacerých úrovní vysvetlenia alebo hrať náročné publikum. Spolupracovník však potrebuje dohľad. Tím by mal rozhodnúť, aké informácie možno zadávať do schválených systémov, ktorá práca vyžaduje kontrolu, kto zodpovedá za konečné schválenie a ako sa má pomoc umelej inteligencie uvádzať tam, kde je to dôležité. Ako tútor môže umelá inteligencia ponúknuť niečo, čo tradičná výučba často nedokáže: trpezlivé, okamžité a individualizované precvičovanie. Študent môže požiadať o vysvetlenie jednoduchým jazykom, vyžiadať si príklady spojené s osobným záujmom, pokúsiť sa vyriešiť úlohu a dostať nápovedy namiesto hotovej odpovede. Ako kouč môže pomôcť nacvičiť prezentáciu, odhaliť slabé predpoklady alebo vytvoriť realistickú cvičnú situáciu. Nebezpečenstvo spočíva v používaní týchto úloh na obchádzanie premýšľania. Ak študent požiada umelú inteligenciu, aby vypracovala každú úlohu, môže dostať hotový výstup bez toho, aby si vybudoval porozumenie. Ak manažér dovolí umelej inteligencii písať každú náročnú správu, možno si nikdy nerozvinie úsudok a empatiu potrebné na vedenie ľudí. Mollickova lepšia predstava je aktívne učenie: používať systém na vytváranie spätných väzieb, precvičovanie a výzvy, no zachovať duševné úsilie, ktoré premieňa informácie na zručnosť.

Mollick používa dva obrazy na opísanie spôsobov spolupráce. Kentaur oddeľuje ľudskú a strojovú prácu. Človek si zvolí cieľ a rieši časti vyžadujúce úsudok; umelá inteligencia vykoná samostatnú čiastkovú úlohu. Analytik môže určiť výskumnú otázku, preskúmať dôkazy a vyhodnotiť dôsledky, pričom umelej inteligencii zadá premenu overeného súboru údajov na niekoľko opisov grafov. Odovzdanie úlohy je jasné. Prístup kyborga je viac prepojený. Človek sa v krátkych cykloch presúva tam a späť medzi sebou a umelou inteligenciou: napíše niekoľko viet, požiada o alternatívy, upraví ich, vyžiada si kritiku z určitého pohľadu a znova prepíše text. V tomto modeli sa hranica počas úlohy neustále posúva. Mollick naznačuje, že táto užšia interakcia môže byť mimoriadne účinná, pretože spája ľudské smerovanie s rýchlym strojovým opakovaním. Ani jeden spôsob nie je automaticky lepší. Kentaurovský prístup môže uľahčiť kontrolu kvality, ochranu súkromia a zodpovednosť. Kyborgovský prístup môže pomôcť pri tvorivom skúmaní alebo pri prekonávaní zablokovania. Správna voľba závisí od závažnosti, úlohy a schopnosti pracovníka posúdiť výsledok. Začiatočník môže potrebovať jasnejšie rozdelenie práce a externú kontrolu. Skúsený odborník môže používať rýchlu spoluprácu bez straty kontroly. V každom prípade sa umelá inteligencia nesmie stať neviditeľnou náhradou kompetencie.

Optimizmus knihy je podmienený. Umelá inteligencia môže rozšíriť prístup k užitočným schopnostiam, no zároveň môže vo veľkom šíriť chyby, reprodukovať predsudky, odhaľovať súkromné informácie a sústreďovať moc v organizáciách, ktoré kontrolujú údaje a výpočtové zdroje. Užitočná odpoveď môže byť stále škodlivá, ak vychádza zo skresleného vzorca, je podaná bez potrebného kontextu alebo sa používa v prostredí, kde ju ľudia nemôžu spochybniť. Zodpovednosť zostáva ľudská, aj keď slová vytvoril systém. Ak spoločnosť používa umelú inteligenciu pri tvorbe komunikácie so zákazníkmi, stále zodpovedá za presnosť a spravodlivosť. Ak škola používa doučovanie podporované umelou inteligenciou, pedagógovia naďalej zodpovedajú za výsledky učenia, súkromie študentov, dostupnosť a vhodné hodnotenie. Ak zamestnanec vloží dôverný materiál klienta do neschváleného nástroja, pohodlie nevymazáva povinnosť chrániť tieto informácie. Praktické ochranné opatrenia sa začínajú jasnými hranicami. Určte, aké údaje je zakázané používať, na ktoré využitie je potrebné povolenie a ktoré rozhodnutia nemožno automatizovať. Vytvorte kontrolné postupy primerané možnej škode: slogan vytvorený pri hľadaní nápadov potrebuje menšiu kontrolu než odporúčanie pri prijímaní zamestnanca. Ak to podporuje kontrolovateľnosť, veďte záznamy o použití s významnými dôsledkami. Pozvite ľudí, ktorých sa rozhodnutia týkajú, aby upozornili na riziká, ktoré môžu dizajnéri a vedenie prehliadnuť. Mollickov rámec nesľubuje jednoduchý etický vzorec. Žiada od ľudí väčšiu premyslenosť. Čím presvedčivejšia bude umelá inteligencia, tým dôležitejšie bude pýtať sa: Je to presné? Čí pohľad chýba? Aké dôkazy to podporujú? Komu vznikne škoda, ak je to nesprávne? A kto konkrétne nesie zodpovednosť?

Co-Intelligence je napokon knihou o tom, ako sa naučiť spolupracovať s mocným, no nedokonalým novým druhom nástroja. Mollickova hlavná rada je praktická: experimentujte široko, ponechajte zodpovednosť ľuďom, komunikujte s umelou inteligenciou pomocou bohatého kontextu a užitočných úloh a očakávajte, že technológia sa bude ďalej meniť. Nerovnomerná hranica schopností znamená, že schopnosti treba overovať úlohu po úlohe a nikdy ich nepredpokladať iba na základe uhladeného jazyka. Cieľom nie je odovzdať úsudok ani vyhlásiť ľudí za zastaraných. Cieľom je prepracovať prácu tak, aby umelá inteligencia odstránila časť trenia, zatiaľ čo ľudia prispejú zmyslom, odbornosťou, starostlivosťou, overovaním a morálnou zodpovednosťou. Používajte ju na tvorbu možností, nácvik, vysvetľovanie, kritiku a urýchlenie prvých návrhov. Nedovoľte jej nahradiť úsilie potrebné na učenie, rozhodovanie alebo prevzatie zodpovednosti za výsledok. Pri čítaní v roku dvetisíc dvadsaťšesť sú konkrétne príklady z roku dvetisíc dvadsaťštyri historickými momentkami. Väčšie posolstvo však zostáva aktuálne: výhoda nebude patriť jednoducho tým, ktorí majú prístup k umelej inteligencii. Bude patriť tým, ktorí sa naučia s ňou premýšľavo pracovať, dôsledne ju spochybňovať a využívať ju v službe jednoznačne ľudských cieľov.