Nezbedná AI aneb „Houstone, máme problém“

Připomíná to starou orientální pohádku o mocném džinovi, kterého člověk osvobodil z jeho letitého uvěznění v kouzelné lahvi s podmínkou, že mu splní pár jeho pošetilých přání… Jenže poté nastal problém s návratem jednou uvolněné síly do jejího dosavadního vězení. Prostě, jakmile je jednou džin vypuštěn, může se svému pánovi velmi snadno vymknout z kontroly. Možná právě teď jsme svědky něčeho podobného v případě AI. Původně dobře myšlený projekt se začal vyvíjet směrem, nad nímž zase tak moc radostí neplesáme. Navíc občas i poměrně nekontrolovatelně – a to jsme teprve na začátku.

Cirkus kolem problematické AI odstartoval samoučící se algoritmus, tzv. generativní AI, jejímž příkladem je třeba platforma ChatGPI (i když jeho kořeny lze dohledat mnohem hlouběji v minulosti). To, co se zdánlivě rýsovalo jako vyspělý nevinný „kecálek“ schopný na základě zadaných požadavků a dat vyfiltrovaných z nepřeberné studnice internetu vygenerovat plus mínus smysluplný výstup, se díky samoučícím schopnostem AI poměrně rychle vyvinulo ve stále svébytnější organismus. A to do té míry, že to zaskočilo i samotné tvůrce. Sami totiž začínají požadovat, aby „svět s AI raději přibrzdil“.

AI dokáže nejen vytvářet texty a projevy, které začínají být k nerozeznání od těch vytvořených reálným člověkem (i když někteří lidé z branže uklidňují, že k výstupu skutečně nerozeznatelnému od lidského má současná AI ještě daleko a jejich práci lze po důsledné analýze pořád rozlišit), ale i další věci. Třeba vysoce realistické vizuální výstupy, které vypadají jako skutečné fotografie, jenže nejsou, či dokonce díla ve stylu různých umělců, vyhlížející jako jimi vytvořené originály – až na to, že je tito často dávno mrtví kumštýři nikdy nestvořili. A také dokonalé hlasové a video napodobeniny reálných osob v tomto ražení, které lze směle zařadit do kategorie fake news či realisticky se tvářící podvrh.

Hranice mezi reálným a digitálním uměle vytvořeným světem se začala nebezpečně překrývat a stírat (ve skutečnosti už nezřídka zcela zmizela). Stále dokonalejší AI navíc poskytly mocný nástroj kyberzločincům pro jejich nekalé záměry. A to je právě ten inkriminovaný bod, který rozblikal varovné majáčky, že něco je špatně, a odstartoval snahy vystavit AI (aspoň dočasnou) stopku, prostě dostat džina vypuštěného z lahve zpět pod kontrolu.

Otázkou je, zda už není pozdě. Jestli si AI nezačíná žít svým vlastním životem mimo naši kontrolu. Zvykli jsme si totiž na tolik věcí, jichž je AI nedílnou součástí, že se jich jen těžko budeme chtít vzdát i v případě, že by se to ukázalo jako nutné pro její opětovné zkrocení.

Josef Vališka, šéfredaktor