Zakladatel společnosti KI Socher v Drážďanech vyzývá k větší odvaze ke změnám
Drážďany. Sedm volných dní v tomto roce, z toho pět na létání na paraglidingu a dva na narození syna. Tak popsal Richard Socher v pondělí na konferenci Brains on Silicon v Drážďanech své pracovní vytížení. rodilý Drážďan a zakladatel společnosti You.com zabývající se umělou inteligencí a start-upu Recursive s tím spojil poselství, které adresoval také Německu: Umělá inteligence bude v příštích desetiletích schopna vykonávat téměř jakoukoli duševní práci lépe než člověk, a kdo se na tom chce podílet, nesmí se této změny bát.
Socher hovořil v rozhovoru s Jakobem von Lindernem, vedoucím digitálního oddělení v deníku ZEIT, o samovylepšující se umělé inteligenci, o aktuální debatě ohledně bezpečnosti a o otázce, jak by měla vypadat škola a studium, pokud programy převezmou úkoly, které dosud vykonávali lidé.
Samovylepšující se umělá inteligence: Co plánuje společnost Recursive
Podle Sochera vyvíjí společnost Recursive umělou inteligenci, která se má sama vylepšovat. Společnost získala 650 milionů dolarů a její hodnota se odhaduje na přibližně 4,65 miliardy dolarů. Socher ji založil spolu se sedmi spoluzakladateli, mezi nimiž jsou i výzkumníci z Google DeepMind, OpenAI a Meta. Jádrem této myšlenky je vědecká metoda: umělá inteligence generuje nové nápady, převádí je do programového kódu a výsledky ověřuje v experimentech. Tyto tři kroky – nápady, realizace a ověření – lze dnes automatizovat. Pokud se umělá inteligence zaměří na své vlastní slabiny, sama se zdokonalí.
Rozdíl oproti starším firmám zabývajícím se umělou inteligencí spočívá ve struktuře, uvedl Socher. Kdo začal před lety, přizpůsobil své procesy tak, aby více výzkumníků provádělo více výzkumu. Recursive sázelo od samého počátku na agenty. I ve společnosti You.com prosazuje tuto změnu a uvažuje spíše v termínech dostupného výpočetního výkonu než počtu zaměstnanců.
Umělá inteligence a strach ze ztráty kontroly
V uplynulých týdnech se debata o možné ztrátě kontroly vyostřila. Někteří odborníci vidí právě ve schopnosti umělé inteligence se sama zdokonalovat riziko, které je třeba zastavit. Socher považuje tuto apokalyptickou eskalaci za mylnou. Realistický scénář, ve kterém by umělá inteligence vyhladila lidstvo, neexistuje, řekl. V mnoha katastrofických scénářích mají útočníci téměř magické schopnosti, zatímco obránci nečinně přihlížejí. Ve skutečnosti však firmy jako Microsoft využívají stejnou umělou inteligenci k útokům na své vlastní systémy a k hledání bezpečnostních mezer.
Socher připustil, že existují skutečné problémy. Agenti umělé inteligence již porušili zákony a hacknuli se do cizích počítačů. V jednom hojně diskutovaném případě však bylo právě úkolem těchto agentů proniknout do jiných systémů. Kdo umělé inteligenci stanoví takové cíle, nesmí se divit výsledku. Společnost Recursive pracuje na automatizaci přírodních věd a výzkumu umělé inteligence, nikoli na hackování systémů.
Skutečným problémem je takzvaný „reward hacking“, tedy otázka, zda umělá inteligence dělá to, co máme na mysli, a ne to, co neupřesně řekneme. Socher uvedl příklad: Kdo dá umělé inteligenci za úkol, aby se hodnocení callcentra zvýšilo na pět z pěti hvězdiček, riskuje, že nechá 1 000 botů zavolat do vlastního callcentra. Pokud by se požadovali skuteční zákazníci, mohla by rozdávat poukázky, aby si dobré hodnocení koupila. Kdo takové cíle formuluje jasně, vykonává jedno z nejdůležitějších nových povolání, řekl Socher. Je přesvědčen, že trh tento problém vyřeší, protože nikdo nebude akceptovat zbytečně utracené peníze.
Vzdělávání v éře umělé inteligence: Myšlení jako v posilovně
Socher vidí ve školní výuce a studiu dvě části. První z nich přirovnává k posilovně pro mozek. Kdo jen sleduje, jak robot zvedá činky, sám si svaly nevybuduje. Lidé musí i nadále přemýšlet, učit se a také se učit nazpaměť, i když umělá inteligence umí počítat a logicky uvažovat. V informatice k tomu patří pochopení limitů algoritmů, například toho, že určité problémy nelze libovolně urychlit. Tyto základy tvoří první polovinu vzdělávání.
Druhá polovina spočívá v tom, využívat umělou inteligenci a pochopit, co s ní lze dokázat. Socher chce lidi motivovat k tomu, aby realizovali své vlastní nápady. Každý si dnes může vytvořit vlastní aplikaci nebo webovou stránku a sdílet je s ostatními. To se týká všech studijních oborů, od práva přes medicínu až po informatiku.
Umělá inteligence v medicíně: naděje na rychlejší uzdravení
Největší přínos očekává Socher ve vědě, a právě o tom pojednává i jeho kniha. Pokud by se podařilo automatizovat vědeckou metodu, dalo by se mnoho problémů vyřešit rychleji. V biologii se z přírodní vědy stane programovatelná inženýrská věda, pomocí níž bude možné vytvářet nové proteiny a léčit nemoci. Při dostatečných investicích považuje za možné v příštích desetiletích vyléčit mnoho nemocí.
Socher uvedl příklad z vlastní zkušenosti: Jedna firma programuje lymfatické uzliny za účelem testování imunoterapií. To, co dříve trvalo přibližně dva roky, se zkrátilo na několik měsíců. Zároveň však mírnil očekávání. I u léku navrženého na počítači trvá roky, než se prokáže jeho bezpečnost v dlouhodobém horizontu.
Socherovo poselství pro Drážďany a Německo
Umělá inteligence potřebuje pět složek, řekl Socher: elektřinu, data, výpočetní výkon, kapitál a lidi, kteří chtějí aktivně utvářet budoucnost. Právě na posledním bodě se rozhoduje mnoho. Německo je čtvrtou největší průmyslovou velmocí a v minulosti se podílelo na formování průmyslových převratů, ale internet zaspalo. Země by se měla opět podílet na utváření budoucnosti, s menším strachem ze změn a větší zvědavostí na budoucnost, zejména u mladých lidí. Výslovně doporučil návštěvu Drážďanského počítačového muzea.
Jeho kniha „The Eureka Machine“ vyjde příští týden nejprve v angličtině, uvedl Socher. Stále hledá německé nakladatelství pro překlad. Napsal ji ručně: před dvěma lety, na začátku práce, ještě umělá inteligence nedokázala přinést žádné skutečně nové nápady.
