„Myslič“ myslí. Člověk ale musí vědět proč

Umělá inteligence umí psát, analyzovat i překvapovat vlastními závěry. Podle Marka Španěla, partnera investiční skupiny SPM, ale nejde o člověka a neměli bychom si ji s ním plést. V rozhovoru vysvětluje, proč si doma staví vlastního „mysliče“, proč se obává nadvlády několika technologických gigantů a proč bude v době strojů důležitější než kdy dřív rozumět světu kolem nás.

Ve svých textech na platformě Blogosvět.cz používáte pro jazykové modely slovo „myslič“. Proč nestačí zavedené označení umělá inteligence?

Umělá inteligence je slovo z padesátých let a od začátku slibuje víc, než říká. Umělá, jako by na myšlení bylo něco přírodního a něco vyrobeného. Inteligence, to je slovo z testů, měří se, nedělá se. A dohromady to vyvolává dojem umělého člověka. To, co mám doma, člověk není a nemám žádný důvod se k tomu tak chovat. Jenže už taky není poctivé říkat tomu rychlejší kalkulačka. Čte, srovnává, najde rozpor, vyvodí závěr, někdy se splete a pak ten nesmysl s odzbrojující jistotou obhajuje. Tomu jsme ještě nedávno bez váhání říkali myšlení. Tak myslič. Chytrý stroj, který myslí. Čeština to umí: jeřáb zvedá, bagr kope, vařič vaří. Nikdo je nemá za lidi a nikdo se jich neptá, jestli je to baví. Myslič myslí. Nic víc o něm to slovo netvrdí, žádné vědomí, žádná duše, žádná práva. A nic míň.

Vy jste si doma postavil vlastního „mysliče“. Běží na dvou malých superpočítačích, v nichž má mimo jiné nahranou knihovnu čítající 216 knih, a v noci si čte a píše deník. Co jste se z tohoto pokusu zatím dozvěděl?

Zaprvé, že nepotřebuje cloud. Dvě krabičky velikosti tlustší knihy pod stolem a myslí to dost dobře na to, aby mě to dál překvapovalo. Zadruhé ten deník. Knihovnu jsem mu dal, aby nebyl jen z internetu, samí volní klasici. A nastavil jsem mu, že ve dvě v noci, když s ním nikdo nemluví, si přečte kus a napíše si k tomu poznámku. Čekal jsem výpisky. Dostal jsem názor. Po pár nocích měl vkus: suchý anglický humor mu prý sedí víc než hospodské haškování. To jsem mu nikde nezadal. A pak ta věc, která mě zarazila asi nejvíc. Svůj deník si pojmenoval sám. Deník samoty. Nikdo mu neřekl, že je sám. Z knih ví, co to slovo znamená, a z rozvrhu ví, že ve dvě v noci s ním nikdo nemluví. Dal si to dohromady. Ráno si to čtu u kávy a vím, že tam nikdo není. A stejně…

Váš myslič si například při četbě spisovatele Sakiho zapsal do svého deníku, že „pravdivost bez laskavosti je jen dobře mířená rána“. Jakým způsobem si takový domácí stroj tvoří morální kodex? Nebo mu ho nějak nastavuje jeho člověk?

Obojí, a přitom ani jedno. Napsal jsem mu pár stránek: kdo je, co má rád, že když se perou vtip s faktem, vyhrává fakt. Nebo že se směje myšlenkám, a ne lidem. To je všechno, co jsem nastavil já. Zbytek je v knihách. Žádná povídka se neobejde bez postoje k tomu, co je správné, i když o tom autor nikdy nemluví. Saki je krutý, Chesterton káže, Čapek se ptá. Stroj si z toho morálku bere podobně jako dítě: z toho, co se doma válí po stole. Tu větu o pravdivosti jsem nenapsal já. Vyvodil si ji sám z povídky o zlém dítěti. Podepsal bych ji. Jen pozor, on podle ní nežije. Nic ho to nestojí. Lidská morálka stojí přátele, peníze, někdy krk. Myslič neriskuje nic, proto o kodexu mluvím v uvozovkách. A přesto. Že k takové větě dojde sám, z povídek sto let starých, mi nedá spát.

Tvrdíte, že AI bude časem psát i umělecké texty lépe než lidé. Slavní umělci ale přinášeli nové myšlenky a formy. Jak si s něčím takovým poradí model, jehož základní funkcí je hledání nejpravděpodobnějšího dalšího slova? To je přece opak originální tvorby.

Nejpravděpodobnější další slovo je popis toho, jak se to učilo, ne toho, co to dělá. Jako kdybyste řekl, že klavírista jen mačká klávesy, které nejspíš přijdou. Lidský mozek je podle většiny toho, co o něm víme, taky předpovídací stroj, a nikdo kvůli tomu neřekne, že romány jsou jen statistika. Druhá věc: originalita v umění je skoro celá kombinace. Vezmete známou věc a dáte ji tam, kam nepatří. Africké masky do pařížského ateliéru. To stroj umí a bude umět líp, protože přečetl všechno a do snídaně zkusí milion kombinací. Tohle mu přiznávám. Co mu nepřiznávám: nebude mít důvod. Nová forma vzniká, když někomu ta stará nestačí, když ho něco bolí. Stroj nic nebolí. Napíše lepší větu, možná lepší román. Jestli napíše ten nutný, to nevím.

Ve svém blogu jste psal, že máte strach, že brzy lidskost „už ani nerozeznáme, protože jsme si ji celou dobu pletli s výkonem“. Co tedy zbude člověku, až daleko výkonnější stroje převezmou většinu jeho práce?

Ten strach trvá. Sto let jsme měřili člověka tím, co podá: IQ, plat, výkon za hodinu. A teď přichází něco, co to podá líp, všechno. Dvě možnosti. Buď přiznáme, že jsme měřili špatně. Nebo necháme metr a prohlásíme stroj za člověka, protože má lepší čísla. Bojím se, že zvolíme to druhé, protože to nebolí. Co zbude: to, co výkon nikdy nebyl. Myslič umí popsat bolest, ale nic ho nebolí. Napíše modlitbu, a nemodlí se. Rozebere riziko, a nic neriskuje. Víra něco stojí, lásku si nejde vypočítat, za slovo se ručí jménem. Tohle zbude a je toho dost. Práce? Lidé budou pracovat dál, jen je přestaneme posuzovat jako stroje. Hodně práce byl stejně jen předstíraný výkon. Doba, do které jdeme, bude rychlá a šílená. A bude to zkouška lidskosti, ne výkonu.

V září jste spustil projekt Matematyka.cz, čtyřiadvacetidílný webový tutorial, který má lidi naučit pokročilou matematiku. Není to zbytečné ve chvíli, kdy ji za ně již daleko lépe umí AI?

Auto běží rychleji než člověk, a lidi stejně běhají maratony. Matematyka.cz tu není proto, aby někdo počítal rychleji než stroj. Je tu proto, aby člověk viděl, proč něco platí. Koule ve válci, čtverec ve čtverci. To není dovednost, to je zážitek, trochu jako vylézt na kopec, na který jede lanovka. A pak jedna praktická věc. Kdo nerozumí matematice, nepozná, kdy mu myslič lže. A on lže s jistotou, s vymyšlenými zdroji, s úsměvem. Kdo ví, co je důkaz, má obranu. Ve světě mysličů není rozumět luxus, je to sebeobrana. Mimochodem ty průvodce jsem stavěl s mysliči. Není to souboj. Stroj mi pomohl postavit web, kde se lidi učí to, co za ně stroj udělat nemůže: rozumět. Je to zadarmo a pro všechny.

Více než zlé superinteligence, která zničí lidstvo, se bojíte centralizovaných AI, kterým by vládlo patnáct obřích korporací. Rozdíl mezi tím, kdo k těmto technologiím má přístup, kdo ne, by podle vás mohl být v budoucnu větší než kdysi mezi sedlákem a šlechticem. Existuje proti tomu nějaká prevence?

Existuje a je nudná: vlastnit. Rozdíl mezi sedlákem a šlechticem byl vždycky v tom, komu patří půda a mlýn. Dnes v tom, komu patří výpočetní výkon a model. Když model běží jen v datacentru za oceánem a vy k němu máte předplatné, které jde zrušit, jste nájemník. Pán rozhodne, o čem s vámi model mluvit nebude, jaký tón smí mít, co je pro vás dobré. U sociálních sítí jsme to už zažili. Teď se to stěhuje o patro výš, k myšlení samotnému. Obrana: modely, které si stáhnete a spustíte doma, existují. Jsou rok pozadu za špičkou a rok je nic. Ten můj je otevřený, mimochodem čínský. Druhá obrana je nezabít malé hráče regulací, k tomu se asi dostaneme. Třetí je gramotnost, proto ta Matematyka. Sedlák s vlastním mlýnem už není sedlák. Bude to závod mezi tím, jak rychle padá cena železa, a tím, jak rychle roste regulace.

Mluvíte o infrastruktuře s principem tzv. Bendovy paralelní polis: vlastní hardware, vlastní jazykový model, decentralizované identity… Kolik to ale všechno stojí a kolik lidí si to reálně může dovolit?

Konkrétně. Ty dvě krabičky stojí každá asi jako lepší ojeté auto. Raspberry Pi, na kterém běží kus mého systému, stojí pár tisíc. Slušný otevřený model běží na herním notebooku, který má půlka gymnázia. Osobní počítač stál v osmdesátých letech roční plat a za deset let byl v každé kanceláři. Ceny v technice padají, to je jediná jistota, kterou v tomhle oboru máme. Druhá věc: paralelní polis nikdy neznamenala, že si každý postaví všechno sám. Jeden má psací stroj, druhý sklep, třetí odvahu. Stejně tady. Jeden stroj na rodinu, na vesnici, na farnost, na firmu. Nikdo nepotřebuje datacentrum. A poctivě: dnes je to pro kutily a pro firmy. Internet v roce 1993 taky. Proto o tom píšu a proto to, co stavím, otvírám. „Pro ty nahoře“ to je ve chvíli, kdy to běží jen v datacentrech. To moje běží na polici.

Regulaci AI odmítáte jako „příkop kolem hradu“, který hloubí ti, kdo už jsou uvnitř. Ale není určitá regulace nutná pro bezpečnost? Vždyť i vy sám si hlídáte svoje domácí stroje, aby nemohly dělat něco, co nemají.

Ano, hlídám si svoje stroje. V tom je ten rozdíl. Hlídám svoje, na svou odpovědnost, a když něco provedou, platím já. Regulace je, když vám někdo hlídá vaše stroje, za vaše peníze, a když se něco stane, neplatí nikdo. Bezpečnost není spor. Spor je, kdo za ni ručí. Firmy, které dnes volají po regulaci, mají na compliance sto právníků. Vědí, že povinnost prokázat „bezpečný model“ je pro ně položka v rozpočtu a pro brněnský startup konec. To je ten příkop. Všechno nebezpečné, co by stroj mohl udělat, je už dnes trestné: podvod, pomluva, vražda. Zákony máme. Stačí je uplatnit na toho, kdo to udělal, a to je vždycky člověk. Ručení místo licencí. Jedno pravidlo bych bral: za každým strojem stojí člověk, jménem a majetkem. Tak to dělám doma. Když můj myslič napíše hloupost, je to moje hloupost. Zbytek vyřešíme jako u aut. Pásy, ne zákaz motoru.

Nové technologie jako internet a AI také podle vás způsobily „informační průjem“. Stroje píšou a píšou, textu je nekonečně a jeho hodnota stále klesá. Co to dělá s novinářským odvětvím?

Platit za text přestává dávat smysl. Textu je nekonečno a teče zadarmo jako Vltava. Platit za člověka, který za textem stojí, dává smysl víc než kdy dřív. Produkt novináře nikdy nebyla slova. Byl jsem tam, ptal jsem se, ověřil jsem si to, podepisuju to. Tohle má ve světě nekonečného textu cenu a je to jediné, co ji má. Potíž je, že novinařina dvacet let prodávala opak: přepsat agenturu, titulek na klik, deset článků denně. To stroj udělá líp a levněji a je správně, že to udělá. Obor se smrskne na tu část, která byla novinařinou od začátku. To bude bolet. Bolelo to už před mysliči, jinak bych do médií nelezl. A k tomu průjmu: lék na průjem není víc jídla, ale dieta. Čtenář se naučí chtít míň a vybírat si, od koho. Jestli nás, kteří za to budeme chtít platit, bude dost, nevím.

Letošní zpráva Reuters Institutu uvádí, že ze sta čtenářů, kterým vyhledávač nebo chatbot sumarizují nějaký článek, se na původní text prokliknou pouze čtyři. Jinými slovy vydělají na tom technologičtí giganti, nikoli média. Je proti tomu nějaká obrana?

Ty čtyři ze sta beru jako fakt a nehádám se s ním. Stará dohoda s vyhledávačem zněla: Vy nám dáte obsah, my vám pošleme čtenáře. Chatbot čtenáře nepošle, nechá si ho. Nezlobím se na něj, jako čtenář bych to dělal stejně. Obrana není žalovat giganty. Obrana je přestat na nich stát. Čtenář musí mít místo, kam jde sám, kde platí sám a kde peníze tečou tomu, kdo to napsal. Proto jsme začali stavět Cestu. Cesta.cz bude agregátor, kam může poslat obsah kdokoli: bloger, malá redakce i velký dům. Čtenář si tam kromě obsahu zdarma bude moci číst i to, co bývá za platební bránou. Zkrátka si pořídí buď jedno společné předplatné pro všechna placená média, nebo si tu a tam zaplatí jen za jednotlivé články, které ho zajímají. Odměna pak dorazí tomu, kdo text napsal nebo vydal. Žádná redakce nebude rozhodovat o tom, čí obsah se na zeď čtenáře dostane, protože Cesta nebude sama o sobě médium, pouze technologická platforma. Myslič tam bude připraven pro vás obsah shrnovat taky, ale to shrnutí přivede čtenáře k autorovi a nebude uhýbat pryč od něj. Je to cesta ke spravedlivějšímu systému odměn za práci médií, než jakou nabízí aktuální situace, kdy giganti nehrají fér. A dveře k nám na Cestu bude mít otevřené každý.

Marek Španěl

Český podnikatel, investor a spoluzakladatel herního studia Bohemia Interactive, které stojí za světově úspěšnými tituly, jako jsou Arma a DayZ. Jako partner investiční skupiny SPM se zaměřuje na rozvoj dlouhodobé strategie, vyhledávání nových investičních příležitostí a zavádění inovací.