Slovenský expert na umelú inteligenciu Michal Valko odišiel z Googlu do Mety k Markovi Zuckerbergovi. Po roku mu dal košom a buduje vlastný startup a ako sám hovorí „bude to úžasné“.
Pred pár desaťročiami sa každý, kto chcel poznať odpoveď na nejakú zložitejšiu otázku alebo chcel napísať seminárnu prácu, musel prejsť do knižnice. Buď do svojej, alebo tej mestskej. Pred pár rokmi už možno stačilo položiť otázky vyhľadávaču Google a pozrieť si pár stránok.
Za uplynulý rok si mnohí z nás zvykli opýtať sa ChatuGPT alebo inej umelej inteligencie. Jazykový model doručí odpoveď za sekundu. A seminárnu prácu napíše za vás. Kto je však pravý respondent, ak sa chcem opýtať na to, čo je AI a aká je jej budúcnosť? Odpoveď Forbesu je jasná: slovenský AInstein Michal Valko.
Tento slovenský vedec sa umelej inteligencii venuje už desaťročia. Rozhovor s ním vznikal takmer tri hodiny a príprava naň oveľa dlhšie. Na dodatočné otázky nám trpezlivo odpovedal aj počas fotenia na titulnú stranu Forbesu.
Nemáte práve teraz čas prečítať si Tému dňa? Vypočujte si ju v podobe podcastu Espresso on Air. Každé ráno o 6:30 vás čaká nová časť vo vašej podcastovej aplikácii.
Má to v rodine
Študovali ste počítačové vedy na Univerzite Komenského v Bratislave. To bolo začiatkom tohto milénia. Ako ste sa vôbec dostali k téme umelej inteligencie?
Téma umelej inteligencie má v našej rodine dlhú tradíciu. Už moja mama študovala umelú inteligenciu. Promovala v roku 1976 na košickej Univerzite Pavla Jozefa Šafárika. Rovnako aj moja prateta pracovala na ENIAC-u. (Historicky prvý turingovsky úplný elektrónkový počítač. Jeho vývoj začali v roku 1943 na Penn State University v Pensylvánii v USA, pozn. red.) Umelá inteligencia teda pre mňa na univerzite nebola nová vec. Bola okolo mňa ešte oveľa skôr, pretože moja rodina sa tomu veľa venovala. Na Fakulte matematiky, fyziky a informatiky Univerzity Komenského v Bratislave som študoval odbor umelá inteligencia. V Slovenskej akadémii vied som trénoval neurónové siete s Radom Harmanom (docent na katedre aplikovanej matematiky a štatistiky, pozn. red.). Už od roku 2000 som mal na škole predmety v oblasti umelej inteligencie. Ísť študovať na doktorandské štúdium do USA nebolo pre nás v ročníku nič výnimočné. Mnohí tam pokračovali na ďalšie doktorandské štúdium rovnako ako ja. Niektorí tam už rovno aj zostali.
Ste jedným z najvýraznejších odborníkov na umelú inteligenciu. Päť rokov ste pôsobili v parížskej pobočke Googlu, konkrétne v divízii DeepMind, ktorá sa venuje výskumu a vývoju umelej inteligencie. Ako ste sa tam dostali?
Tak, že som tú parížsku divíziu s Rémim Munosom (francúzsky matematik a počítačový vedec, pozn. red.) vybudoval. Najskôr som začínal prácou pre Intel v USA s kolegom Branislavom Kvetoňom, ktorý je v Silicon Valley už veľmi dlho. Potom som chcel robiť viac na akademických veciach. Pracoval som na európskom projekte s názvom CompLACS. To bol rok 2011. Na konci projektu ľudia v odvetví AI založili DeepMind. Vtedy som sa rozhodol k nim nepridať, lebo som chcel ísť vlastnou cestou. DeepMind postupne najal všetkých mojich kolegov a až 95 percent všetkých výskumníkov z oblasti Reinforcement Learning (v preklade posilnené učenie; ide o osobitnú kategóriu strojového učenia, pozn. red.). Od začiatku som s nimi spolupracoval tak, že som k nim posielal študentov a písal s nimi výskumné články ako akademický pracovník.
Kedy prišiel zlom?
V roku 2018 mi môj bývalý postdoktorandský výskumný školiteľ Rémi Munos zavolal, či s ním nevybudujem parížsku pobočku DeepMindu.
Keď zavolá Zuckerberg
Dôvod bol ten, že moja úloha v DeepMinde bola vybudovať výskumné laboratórium. Po úspechu s BYOL (Bootstrap your own latent, metóda strojového učenia, pozn. red.) som prakticky robil na veľkých jazykových modeloch ako Sparrow, Bard či Gemini. Bol som tam na deň presne päť rokov. Keď sa moja päťročná zmluva pre DeepMind blížila ku koncu, moja materská inštitúcia Inria (francúzska verejná vedecká a technologická inštitúcia špecializujúca sa na matematiku a informatiku, pozn. red.) sa ma pýtala, aké mám ďalšie plány. Rozmýšľal som, či nie je čas začať pracovať na niečom vlastnom. Mať svoju vlastnú firmu. Keď som bol v Silicon Valley, mal som tam množstvo prednášok, či už v OpenAI, Appli, Amazone, ale aj v desiatkach startupov. Aj som od nich dostal ponuky, ale povedal som si, že ešte musím nad tým popremýšľať. Išiel som na dovolenku rozmýšľať o tom, čo so svojím životom.
Na čo ste prišli?
Počas dovolenky sa mi ozval Mark Zuckerberg a povedal, že AI je preňho dôležitá a chce so mnou spolupracovať. Potom sa už udialo všetko rýchlo. Nebol žiadny pohovor, tie rozhovory trvali len niekoľko minút. Rovno prišla ponuka na prácu s tým, že by som pracoval s vlastným tímom z DeepMindu. Pamätám si, že Mark to vtedy nazval „Valkova šestka“.
To bolo rýchle…
Keď som sa vrátil z dovolenky, už som začal pracovať na jazykovom modeli Llama 3 (najnovší veľký jazykový model od spoločnosti Meta, uvedený v júli 2024, pozn. red.). V tom čase nebolo veľa ľudí, ktorí by sa venovali oblasti Reinforcement Learning. DeepMind mal v tom čase možno päťsto až šesťsto výskumníkov v oblasti Reinforcement Learning a Meta nemala skoro žiadneho.
Prekvapil ho
Nie veľa Slovákov má možnosť rozprávať sa so zakladateľom Facebooku Markom Zuckerbergom, vy ste sa s ním dokonca aj osobne stretli. Aký je v skutočnosti?
Rozprávali sme sa asi štyri hodiny od polnoci do štvrtej ráno. Nechcel, aby sa mi posúval čas, tak sa rozhodol prísť o šiestej večer a odchádzal o šiestej ráno. Pamätám si, že sa viac pýtal, ako rozprával.
