Studenti se mě ptají, jakou profesi zvolit, když jim je v patách AI, říká sociolog a vysokoškolský učitel

Učíte na Studiích nových médií filozofické fakulty UK. Předpokládám, že v současnosti k sobě veškerou pozornost strhává umělá inteligence.
Je to tak. Na fakultě aktuálně zkoumám AI kreativitu, ale i dezinformace a deepfakes –⁠⁠⁠⁠⁠⁠ hru s realitou, jak to nazvala Eva Nečasová na konferenci EDUinu. V rámci Národního institutu SYRI se jako výzkumník zabývám společenskými riziky, která s AI vstupují do hry. Společenskými dopady AI na různé oblasti života, včetně vzdělávání.

O velkých jazykových modelech se někdy mluví jako o kalkulačkách pro práci s textem, vy sám jste tohle přirovnání použil na konferenci. Ale ChatGPT a podobné aplikace lidé zdaleka nevyužívají jen pro tvorbu textu. Jak nainstalovat tiskárnu? Chat to ví. Jak se zorientovat v útrobách webu italského finančního úřadu? Navede na stopu. Zamýšlím se nad tím, proč se o využití mluví tak reduktivně, jestli to není matoucí. Sám jste na konferenci řekl, že v oblasti vzdělávání funguje skvěle jako asistent či soukromý učitel.
Jistě, v mnoha situacích je AI i na fakta podstatně lepší než Google, protože se nemusíte proklikat třiceti sponzorovanými odkazy, které se vám snaží něco prodat. Ten příklad s tiskárnou je dobrý, tam AI funguje stoprocentně, protože stejnou otázku viděla na internetu vyřešenou stokrát. U výkladu zákona, obzvlášť českého, bych si ale tak jistý nebyl a příslušnou legislativu jí přinejmenším sám předložil k přečtení, právníky nám tu zatím nenahradí. Je to ale zřejmě jen otázka času. Chybuje také víc v jazycích, kterými mluví málo lidí a AI se s nimi tedy setkala méně. Mezi ty patří i čeština.

S myšlením se to nedá srovnat. Anebo dá?

Někdy se mi zdá, že česká vzdělaná veřejnost přijala úzus dívat se na AI jako na něco, co je omezené, co nás nepřekoná, když se budeme pilně učit. Jako na něco, co bude vždy spíš dobrým sluhou než zlým pánem, a k tomu vytváří svá kognitivní zkreslení. Nemyslí to, pouze agreguje a predikuje, takže se to s člověkem nedá srovnat. Ale ono se to možná s leckterým člověkem srovnat dá už teď. Lidstvo zatím ví víc než stroj, ale ne tak každý člověk.
AI zatím chybí schopnost zobecňovat na takové úrovni, jako to dokáže člověk. V tom smyslu, že si na základě osobní zkušenosti vytvoříte nějaký model světa. I když v zárodku se tam něco podobného možná děje, AI zatím potřebuje k dosažení stejné úrovně „pochopení“ nesrovnatelně více dat než člověk. Další zásadní věc je, že jazykový model sám o sobě neví, kdy má a kdy nemá pravdu, respektive nedovede posoudit svoji míru jistoty. Samozřejmě se můžeme bavit o tom, jak funguje přesně lidský mozek a nakolik tohle víme my.

Na druhou stranu, poměrně nový je nástup modelů AI typu OpenAI o1 nebo DeepSeek R1. To jsou modely, kterým česky asi můžeme říkat přemýšlející. Fungují tak, že v přípravě na odpověď si nejprve samy na pozadí „přemýšlí nahlas“. Z textu, který takto vznikne, teprve následně formulují konečnou odpověď. To už se v něčem přibližuje tomu, jak postupuje člověk. Když přemýšlím o nějakém problému, nejdřív je to spíš nahodilý brainstorming, a teprve ve druhé fázi z toho vzniká nějaká ucelená informace, za kterou si stojím.

O AI vyučujete studenty filozofické fakulty. Co přesně?
Učím úvod do AI studenty celé fakulty a také specifické semináře. Často prakticky pojaté, zaměřené hlavně na téma AI v kreativním procesu a audiovizuálních manipulacích a deepfakes.

Jak často na vašem semináři někdo vstane a řekne: „Valí se na nás obrovská rizika, pojďme o nich diskutovat, pojďme k tomu zaujmout nějaký postoj!“? U budoucích sociologů, filozofů či historiků bych něco takového předpokládala.
Studenti za mnou spíš chodí s tím, jakým směrem se vydat a co studovat, když jim je AI v patách, čím se půjde uživit. Má ještě cenu dělat grafiku, animaci, psát, programovat? A podobné otázky, na které je obrovsky těžké odpovídat. Těžko říct, co bude za pět, deset let. Za poslední dva roky jde vývoj tak dopředu, až se z toho točí hlava. Velmi se investuje i do robotiky, jazykové modely a robotika konvergují. Každých pár týdnů máme oznámení nové AI, která zase posouvá laťku výš, každých pár dnů někde vidím video humanoidního robota, který najednou krásně chodí a začíná ovládat jemnou motoriku. Postup v jedné oblasti často skokově urychluje vývoj v jiné.

Jaké profese jsou nejodolnější erozi ze strany AI?
Takové, které kombinují myšlení a fyzickou činnost a nejsou rutinní. Jako příklad bezpečné profese bývá uváděn archeolog, protože krom pestré náplně je to ještě špatně placené a tedy pro automatizátory nezajímavé, ale podle mě ani praktického lékaře někdo jen tak rychle nenahradí. Může ale nahradit diagnostickou část jeho práce. Myslím, že velmi ohrožené jsou profese lidí, kteří pracují výhradně s počítačem.

Přežije umění, ale ne řemeslo

AI umí už psát knížky pro děti nebo kreslit zajímavé obrázky, a brzy to bude umět ještě lépe. Sebere práci i kreativním lidem? Zatím se říká, že doména kreativity lidem zůstane. Ale možná jde jen o úzký pás kreativity geniální.
Bohužel je to pravděpodobné. Já říkám, že přežije umění, ale ne řemeslo. Dokonce jsem tuhle frázi dal do jedné písničky. Máme tendenci říkat, že AI není kreativní. Ale většina běžné lidské kreativity je v podstatě založená na kombinování toho, co znám, do nového tvaru. V tom může být AI přímo vynikající. Pořád tady bude prostor pro naprosto výjimečné lidi, kteří vytvoří výjimečné věci, ale ten zbytek bude mít velkou konkurenci v AI. Většina kreativní práce, za kterou se platí, od copywritingu přes ilustrace po hudební produkci, je v ohrožení, protože nejde o umění, ale o řemeslo.

Já jsem se dlouhé roky živil jako hudební producent a pořád to ještě okrajově dělám, nyní spíš ve volném čase. Práce spočívá v tom, že za mnou přijde zpěvák, zahraje mi písničku, kterou vymyslel, a já mu k tomu pomůžu vymyslet další nástroje, doprovodné melodie a celkový zvuk, který nakonec jde do rádia. Tenhle job je podle mě do budoucna prakticky jistě mrtvý s výjimkou opravdu vyčnívajících umělců.

Můžeme si představit, že obrazový generativní model operuje v prostoru, ve kterém jsou rozmístěné různé koncepty, které jsme do něj natrénovali. Na jednom konci bude třeba výtvarný styl Pabla Picassa, na dalším všechny možné podoby křesla, na dalším zase všechny podoby avokáda. Promptem můžeme do toho prostoru zapíchnout imaginární špendlík a říct mu, ať nám vrátí něco, co tyhle konce v různém poměru propojuje: třeba křeslo ve tvaru avokáda namalované ve stylu Pabla Picassa. Je tohle kreativita, nebo není? Za mě na úrovni řemesla rozhodně ano.

Člověk má oproti ostatním tvorům obrovskou výhodu v tom, že krom instinktů nakumuloval i znalosti a postupy, říká se tomu civilizace. Z těch pak každý do určité míry těží. A nyní toto know-how beze zbytku poskytujeme strojům. 

Když tohle vše víme, nepřekvapuje vás, že se k tomu stavíme tak fatalisticky? Jsme jednoznačně ve vleku vůle omezené skupiny lidí, a nenapadá nás nic jiného, než že je potřeba s tím držet krok. Vlastně se hrozně divím tomu, že mladí tohle téma víc nenastolují ve veřejném prostoru, nerebelují, nepožadují od svých volených zástupců nějaké záruky, že se budou mít jak živit.
Organizace, které se snaží zabrzdit vývoj AI, existují, i když to možná neproniká do mainstreamu. Do legislativ ale promlouvají poměrně výrazně. V Evropě, ale i v USA, máme například nastavené limity na výpočetní výkon, který může jít do trénování generativní AI, aniž by musela podléhat regulaci. Mně ty protesty ale často přijdou naivní, jako by hlavní argumenty braly ze sci-fi filmů. Já osobně to vidím tak, že Pandořina skříňka byla otevřena a co z ní vylétne, to už zpátky nikdo nevrátí. Možná studenti nezaujímají organizovaný postoj, protože si myslí to samé.

Problémy, kterým čelíme, jsou společenské

Fatalismus v nás podporuje i vědomí, že svět je multipolární a je těžké dosáhnout celoplanetární dohody, například ohledně regulace AI. Takže se jede něco jako soutěž ve zbrojení.
Jistě, nikdo si teď nemůže dovolit zpomalit. Já jsem poměrně velký technooptimista a nadšenec, který tuhle oblast sleduje už přes deset let, ale vnímám samozřejmě, že společnost za vývojem technologií pokulhává a že to je kámen úrazu. Naše problémy de facto nejsou technologické, ale společenské. Jako zásadní opravný prostředek vidím vzdělání, a společenskovědní vzdělání na prvním místě. Ani ne tak kvůli uplatnění, jako kvůli pochopení světa a toho, co se v něm děje. Studium a pochopení toho, co aktuální technologický vývoj přináší, jaké dopady má na různé sféry existence. Ano, potřebujeme doktory, programátory, chemiky nebo strojní inženýry, ale když jsou humanitně a společenskovědně nevzdělaní a ke světu přistupují naivně perspektivou své profese, řítíme se do pekel.

Na konferenci EDUinu jste mluvil o tom, že je v souvislosti s nástupem AI potřeba dbát na ochranu marginalizovaných skupin, jako jsou senioři. Nejsme ale marginalizovaná skupina alespoň potenciálně my všichni? A čím mladší, tím ohroženější?
Výhledově to tak jistě je, já jsem mluvil o současnosti. V dnešní době pořád platí, že různým skupinám lidí jsou dostupné různé možnosti. Umělá inteligence může tyto rozdíly zvýraznit, ale na druhou stranu má i potenciál některé nerovnosti vyrovnat. Jako soukromý učitel, jak jste možná zaznamenala, funguje AI výborně. 

Vezměte si, jak zásadní pro další život je, když má dítě vzdělané rodiče, kteří jsou ochotni si s ním povídat, odpovídat na jeho sto otázek. V blízké budoucnosti je může zastoupit repráček u postýlky každého dítěte, jakkoli to zase vyvolává další nepříjemné otázky.

Řekl byste, že se v české veřejné debatě o umělé inteligenci jako společenském fenoménu mluví dost?
Přiznám se, že českou debatu tolik nesleduji, protože je obvykle opožděná o týdny až měsíce oproti tomu, co se řeší v zahraničí. Můj Twitter je samozřejmě AI plný. V anglosaském prostředí debaty probíhají, často se v nich účastní i samotní tvůrci AI. Nejsem si ale jistý, jestli jsou koncipovány tak, aby promlouvaly o širších otázkách a k běžnému člověku. Velké mezery vidím v popularizaci. Je to podle mě i proto, že nikdo neví, co bude dál, nejsou ustálené odpovědi. Nikdo neví, co bude zítra, takže nikdo moc neudává obecný směr. Vyčkává se, ale vývoj nečeká.