Život a práce s AI

Kniha Život a práce s AI začíná jednoduchým, ale znepokojivým tvrzením: umělá inteligence už není jen specializovaná technologie, kterou používají inženýři. Generativní umělá inteligence dokáže vést rozhovor, psát, vymýšlet nápady, vysvětlovat, kritizovat a vytvářet materiály, které působí překvapivě kompetentně. Proto připomíná méně běžný software a více spolupracovníka. Ústřední otázka Ethana Mollicka tedy nezní pouze, co umělá inteligence dokáže. Jde o to, jak mají lidé žít a pracovat ve chvíli, kdy se stroj může podílet na některých částech lidského myšlení. Tato kniha vyšla v roce dva tisíce dvacet čtyři a vznikla v mimořádně rychlé rané fázi veřejného používání generativní umělé inteligence. Její příklady patří do této doby a její tvrzení bychom neměli chápat jako žebříček dnešních systémů v roce dva tisíce dvacet šest. Trvalejší Mollickova myšlenka se týká chování: protože se schopnosti mění rychle a nepředvídatelně, lidé si musejí úsudek rozvíjet přímou a pečlivou zkušeností. Odmítá dvě snadné reakce. První je odmítnutí: předpoklad, že umělá inteligence je jen trik, protože někdy produkuje nesmysly. Druhou je odevzdání se: předpoklad, že plynulý výstup znamená, že systém rozumí světu a může nahradit lidskou odpovědnost. Obě reakce přehlížejí skutečnost, že tyto nástroje mohou být skutečně užitečné a zároveň nespolehlivé. Praktickou výzvou je vybudovat si vztah k umělé inteligenci, který rozšíří lidské schopnosti, aniž by oslaboval lidskou samostatnost.

Mollick tomuto vztahu říká ko-inteligence. Neznamená to, že lidé a umělá inteligence mají totožnou mysl, stejnou morální hodnotu nebo stejný druh porozumění. Znamená to, že lidé mohou stále častěji pracovat tak, že přemýšlejí společně s umělým systémem. Systém dodává jazyk, vzorce, alternativy a rychlé odpovědi. Člověk dodává cíle, kontext, vkus, hodnoty, životní zkušenost a odpovědnost. Toto rozdělení je důležité, protože umělá inteligence může působit lidštěji, než ve skutečnosti je. Mluví konverzačním tónem, přizpůsobuje se pokynům a dokáže napodobit odbornost. Díky tomu je užitečné komunikovat s ní, jako by byla členem týmu. Můžete ji požádat, aby přijala určitou roli, vysvětlila své uvažování, zpochybnila návrh nebo přizpůsobila odpověď určitému publiku. Zacházet s ní jako s člověkem je však pracovní metoda, nikoli přesvědčení, že je vědomá, důvěryhodná nebo morálně odpovědná. Představme si například vedoucí neziskové organizace, která plánuje komunitní workshop. Umělá inteligence může navrhnout program, přepsat pozvánky pro různé skupiny, předvídat otázky a vytvořit kontrolní seznam. Nezná však historii dané komunity, pokud jí vedoucí neposkytne vhodný kontext. Nemůže rozhodnout, které sliby jsou etické, které informace důvěrné nebo zda je zdánlivě uhlazené tvrzení pravdivé. Nástroj přináší možnosti. Člověk určuje účel a přijímá důsledky. Proto podle Mollicka umělá inteligence není ani jen rychlejší vyhledávací pole, ani autonomní zaměstnanec. Je to mimořádně flexibilní partner, jehož silné a slabé stránky musíme objevovat používáním.

Klíčovou myšlenkou knihy je rozeklaná hranice schopností. Často si představujeme, že technologie se zlepšuje v úhledné linii: nejprve se automatizují jednoduché úkoly a potom následují složitější. Generativní umělá inteligence tak nepůsobí. Může vynikat v úkolu, který vypadá sofistikovaně, například při tvorbě několika věrohodných marketingových konceptů nebo shrnutí dlouhého dokumentu, a potom selhat u něčeho, co by zvládl pečlivý začátečník, například při zachování klíčového faktu nebo dodržení zjevného omezení. Hranice kompetence je rozeklaná proto, že úkoly, které lidem připadají podobné, mohou být pro systém umělé inteligence velmi odlišné. Model může manažerovi pomoci formulovat deset způsobů, jak zahájit obtížný rozhovor, a přitom v závěrečné zprávě poplést jména, data, pravidla nebo mezilidské okolnosti. Může nabídnout elegantní vysvětlení vědeckého pojmu a přitom nenápadně zaměnit dvě studie. Plynulost není důkazem. To znamená, že názvy profesí jsou špatným vodítkem pro rozhodování, co delegovat. Učitel, právník, designér, analytik i manažer jsou soubory mnoha úkolů. Některé části může umělá inteligence posílit; jiné vyžadují specializované lidské znalosti, přístup ke spolehlivým důkazům, etický úsudek nebo skutečné vztahy. Rozumnou jednotkou experimentování je úkol, nikoli celé povolání. Mollickovou praktickou odpovědí je disciplinované testování. Nejprve vyzkoušejte umělou inteligenci u práce s nízkým rizikem. Porovnejte její výstup se známými standardy. Položte několik verzí stejné otázky. Hledejte opakovatelnou hodnotu a opakující se způsoby selhání. Pokud nástroj pomáhá vytvářet první návrhy, ale pravidelně si vymýšlí odkazy, může se hodit pro hledání nápadů, ne pro výzkum bez dohledu. Promyšlený pilotní projekt naučí víc než velkolepý slib, že umělá inteligence automaticky zvýší produktivitu všech.

Mollick svůj přístup staví na čtyřech pravidlech. První zní: pozvěte umělou inteligenci ke stolu. Neznamená to používat ji ke všemu nebo považovat každý její výstup za hodnotný. Znamená to zkoumat ji dostatečně široce, abyste zjistili, kde může pomoci. Užitečné využití nového univerzálního nástroje nelze spolehlivě odhadnout zpovzdálí. Specialista na nákup ji může například vyzkoušet jako partnera při vymýšlení otázek pro dodavatele, nástroj pro formátování zápisů z porad, kritika návrhu pracovního postupu i simulátoru námitek zainteresovaných stran. O tom, co zůstane, by měly rozhodovat výsledky, ne rozruch kolem technologie. Druhé pravidlo zní: zůstaňte člověkem v rozhodovacím okruhu. Lidé musejí práci řídit, výsledek kontrolovat a učinit konečné rozhodnutí. Nejdůležitější je to tehdy, když rozhodnutí ovlivňují peníze, zdraví, zaměstnání, bezpečnost, práva, pověst nebo životy dalších lidí. Ověření není slavnostní pohled na odpověď. Znamená kontrolu zdrojových materiálů, výpočtů, předpokladů, opomenutí i souladu se skutečnou situací. Znamená také rozpoznat, kdy nemáte potřebné znalosti k posouzení výstupu, a požádat o kvalifikovanou kontrolu místo předstírání, že problém vyřešila umělá inteligence. Za třetí, zacházejte s umělou inteligencí jako s člověkem, ale nezaměňujte to s přesvědčením, že člověkem skutečně je. Rozhovor bývá nejúčinnějším rozhraním. Dejte systému roli, cíl, důležité pozadí, omezení, příklady a definici dobré odpovědi. Když ho požádáte, aby se choval jako skeptický zákazník, může vzniknout jiný výsledek než při žádosti o obecnou zpětnou vazbu. Požádáte-li ho, aby novému zaměstnanci vysvětlil určitý pojem a potom ho vyzkoušel, může vytvořit užitečné procvičování. Persona je ale nástroj pro tvorbu zadání. Nedělá ze systému skutečného zákazníka, odborníka ani kolegu. Čtvrté pravidlo zní: předpokládejte, že toto je nejhorší umělá inteligence, jakou kdy budete používat. V kontextu knihy z roku dva tisíce dvacet čtyři šlo o argument proti vytváření pevných předpokladů kolem rychle se vyvíjející technologie. Dnešní důsledek není ten, že každá budoucí verze zlepší každý úkol nebo že organizace mají slepě honit novinky. Znamená to, že pracovní postupy, pravidla a dovednosti musejí být přizpůsobivé. Budujte návyky učení a kontroly, místo abyste celý proces zmrazili podle schopností dostupných v jednom okamžiku.

Mollick zkoumá několik rolí, které může umělá inteligence hrát. Jako tvůrčí partner může zlevnit hojnost. Z prázdné stránky se stane rozhovor: vytvářejte alternativy, kombinujte dva směry, navrhujte metafory, vypisujte námitky nebo záměrně pište špatné verze, aby bylo jasnější, jak vypadá dobrý výsledek. Její hodnota často nespočívá v konečném textu. Jde o rozběhnutí práce, rozmanitost a podnět, který člověku umožní volit přesněji. Jako spolupracovník může umělá inteligence převzít vymezené části znalostní práce: uspořádat materiál, převést hrubé poznámky do struktury návrhu, přeložit složitou myšlenku do několika úrovní vysvětlení nebo sehrát náročné publikum. Spolupracovník však potřebuje dohled. Tým by měl rozhodnout, jaké informace lze zadávat do schválených systémů, která práce vyžaduje kontrolu, kdo odpovídá za konečné schválení a kdy je důležité přiznat pomoc umělé inteligence. Jako tutor může umělá inteligence nabídnout něco, co tradiční výuka často nedokáže: trpělivé, okamžité a individualizované procvičování. Student může požádat o vysvětlení jednoduchým jazykem, vyžádat si příklady spojené s osobním zájmem, pokusit se vyřešit úlohu a dostat nápovědu místo hotové odpovědi. Jako kouč může pomoci nacvičit prezentaci, odhalit slabé předpoklady nebo vytvořit realistickou cvičnou situaci. Nebezpečí spočívá v tom, že tyto role použijeme k obcházení vlastního přemýšlení. Když student požádá umělou inteligenci, aby vypracovala každý úkol, může získat výstup, aniž by si vybudoval porozumění. Když manažer nechá umělou inteligenci psát každou obtížnou zprávu, možná si nikdy neosvojí úsudek a empatii potřebné k vedení lidí. Mollickova lepší vize je aktivní učení: používat systém k vytváření zpětných vazeb, procvičování a výzvám, ale zachovat duševní úsilí, které mění informace v dovednost.

Mollick používá dva obrazy, aby popsal způsoby spolupráce. Kentaur odděluje lidskou a strojovou práci. Člověk volí cíl a řeší části vyžadující úsudek; umělá inteligence vykonává samostatný dílčí úkol. Analytik může například stanovit výzkumnou otázku, prozkoumat důkazy a vyložit jejich důsledky, zatímco umělou inteligenci použije k převodu ověřeného souboru dat do několika popisů grafů. Předání práce je jasné. Přístup kyborga je propojenější. Člověk se v krátkých cyklech pohybuje tam a zpět mezi sebou a umělou inteligencí: napíše několik vět, požádá o alternativy, upraví je, vyžádá si kritiku z určité perspektivy a znovu přepíše. V tomto modelu se hranice během úkolu neustále posouvá. Mollick naznačuje, že tato těsnější interakce může být mimořádně účinná, protože spojuje lidské vedení s rychlým strojovým opakováním. Ani jeden styl není automaticky lepší. Kentauří práce může usnadnit kontrolu kvality, ochranu soukromí a odpovědnost. Kyborgí práce se může hodit při tvůrčím hledání nebo překonávání stagnace. Správná volba závisí na závažnosti, úkolu a schopnosti pracovníka posoudit výsledek. Začátečník může potřebovat jasnější rozdělení práce a vnější kontrolu. Zkušený odborník může využívat rychlou spolupráci, aniž by ztratil kontrolu. V žádném případě se umělá inteligence nemá stát neviditelnou náhradou kompetence.

Optimismus této knihy je podmíněný. Umělá inteligence může rozšířit přístup k užitečným schopnostem, ale také ve velkém šířit chyby, reprodukovat zaujatost, odhalovat soukromé informace a soustřeďovat moc v organizacích, které kontrolují data a výpočetní zdroje. Užitečná odpověď může být přesto škodlivá, pokud vychází ze zkresleného vzorce, je podána bez potřebného kontextu nebo se použije v prostředí, kde ji lidé nemohou zpochybnit. Odpovědnost zůstává lidská, i když slova vytvořil systém. Pokud firma používá umělou inteligenci při tvorbě komunikace se zákazníky, stále odpovídá za přesnost a férovost. Pokud škola používá doučování podporované umělou inteligencí, pedagogové stále odpovídají za výsledky učení, soukromí studentů, přístupnost a vhodné hodnocení. Pokud zaměstnanec vloží důvěrný materiál klienta do neschváleného nástroje, pohodlí neodstraňuje povinnost tyto informace chránit. Praktická ochrana začíná jasnými hranicemi. Určete, jaká data se nesmějí používat, která využití vyžadují povolení a která rozhodnutí nelze automatizovat. Vytvořte kontrolní postupy úměrné možné škodě: slogan vymyšlený při brainstormingu vyžaduje menší kontrolu než doporučení pro přijetí zaměstnance. Pokud to podporuje auditovatelnost, veďte záznamy o použití s významnými důsledky. Přizvěte lidi, kterých se rozhodnutí týká, aby upozornili na rizika, jež mohou návrháři a vedoucí pracovníci přehlédnout. Mollickův rámec neslibuje snadný etický vzorec. Vyzývá lidi k větší uvážlivosti. Čím přesvědčivější umělá inteligence je, tím důležitější je ptát se: Je to přesné? Čí pohled chybí? Jaké důkazy to podporují? Komu vznikne škoda, pokud je to špatně? A kdo konkrétně nese odpovědnost?

Život a práce s AI je nakonec knihou o tom, jak se naučit spolupracovat s mocným a nedokonalým novým druhem nástroje. Základní Mollickova rada je praktická: experimentujte široce, ponechte odpovědnost lidem, komunikujte s umělou inteligencí pomocí bohatého kontextu a užitečných rolí a očekávejte, že se technologie bude dál měnit. Rozeklaná hranice schopností znamená, že je nutné schopnosti ověřovat úkol po úkolu, nikdy je nepředpokládat jen podle uhlazeného jazyka. Cílem není delegovat úsudek ani prohlásit lidi za zastaralé. Jde o přepracování práce tak, aby umělá inteligence odstranila část tření, zatímco lidé přinesou účel, odbornost, péči, ověřování a morální odpovědnost. Používejte ji k vytváření možností, nácviku, vysvětlování, kritice a urychlení návrhů. Nedovolte jí nahradit úsilí potřebné k učení, rozhodování nebo převzetí odpovědnosti za výsledek. Při četbě v roce dva tisíce dvacet šest jsou konkrétní příklady z roku dva tisíce dvacet čtyři historickými snímky. Větší lekce knihy však zůstává aktuální: výhoda nebude patřit jednoduše těm, kteří mají přístup k umělé inteligenci. Bude patřit těm, kdo se naučí s ní promyšleně pracovat, důsledně ji zpochybňovat a využívat ji ve službě cílům, které jsou skutečně lidské.