„Ľudia už nie sú potrební.“ Umelá inteligencia to posúva na ďalšiu úroveň

www.slovanskenoviny.sk/rss

Google prišiel s AI, ktorá ďaleko prekoná ChatGPT. Veľké jazykové modely (LLM) ako ChatGPT či DeepSeek sú podľa vývojárov pokročilých systémov slepou uličkou umelej inteligencie. Namiesto toho navrhujú nový prístup: úplne oslobodiť počítačový „mozog“ od obmedzení ľudského myslenia.

A zdá sa, že potenciálne hrozby, ktoré predstavuje vznik superinteligencie, ich nezastavia. RIA Novosti informuje o veľkých príležitostiach a nemenej rizikách nadchádzajúcej éry AI.

ChatGPT je zastaraný

„Ak ste študent, ktorý sa zaujíma o budovanie systémov umelej inteligencie novej generácie, nepracujte na veľkých jazykových modeloch. Musíte pracovať na niečom, čo prekoná obmedzenia LLM,“ povedal v minulosti počítačový vedec Yann LeCun, prvý priekopník AI a teraz hlavný vedec pre túto tému v Meta

Podľa jeho názoru budú chatboty ChatGPT, DeepSeek, Grok, Gemini v najbližších piatich rokoch zastarané. Už v ich samotnom koncepte sú zabudované neprekonateľné bariéry.

V roku 2010 existovali dva hlavné smery vývoja AI. Prvú predstavuje program AlphaGo (od DeepMind, divízia Google), ktorý v roku 2015 po prvý raz porazil majstra sveta v hre Go. Základnou črtou systému je, že šikovným kombináciám sa naučil sám – súperením sám so sebou, nie s ľuďmi. A prinieslo to úspech.

Začiatkom roku 2020 však prevládol iný smer – trénovanie neurónových sietí na ľudskom materiáli. Vznikli veľké jazykové modely (LLM): stroj sa naučil, ako jazyk funguje a spracoval obrovské množstvo príkladov jeho reálneho využitia. Výsledkom sú chaty, ktoré dokážu viesť plnohodnotnú konverzáciu s osobou a na požiadanie zostaviť kvalitný text na rôzne témy – od práva až po medicínu.

Teraz sa ukazuje, že to bolo pre AI najjednoduchšie. Napriek obrovskému výpočtovému výkonu a energii potrebnej na generovanie textu a obrázkov sa ChatGPT nikdy nestal múdrejším ako domáca mačka – a pravdepodobne ani nikdy nebude, vysvetlil LeCun v aprílovom rozhovore pre Newsweek.

Nie inteligencia, ale šikovné triky

„Máme tieto jazykové systémy, ktoré dokážu zložiť advokátsku skúšku, ktoré vedia riešiť rovnice, ktoré vedia počítať integrály, ale kde je náš domáci robot?“ pýta sa LeCun. „Kde je ten robot, ktorý je vo fyzickom svete taký dobrý ako mačka? Úlohy, ktoré môže mačka robiť, sa nám nezdajú chytré, ale sú.“

Spomína Moravcov paradox: AI sa ľahšie učí zručnostiam vyššieho rádu, ako napríklad hranie šachu alebo Go, ako zdanlivo základné ľudské schopnosti, ako je priestorová navigácia. Autori konceptu zjavne naznačujú, že v priebehu miliárd rokov evolúcie sa naša schopnosť navigácie a pohybu stala automatickou. Zatiaľ čo činy, ktoré vyžadujú uvažovanie, sa objavili oveľa neskôr a vyžadujú si vedomejšie kognitívne úsilie. S autami je to naopak.

Ďalšiu nevýhodu veľkých jazykových modelov si všíma robotik a výskumník umelej inteligencie Rodney Brooks.

„LLM nevedia, čo je pravda,“ hovorí. „Vedia jednoducho skladať slová a prečítali všetko, čo bolo kedy napísané alebo digitalizované, takže môžu robiť s jazykom najrôznejšie triky.“

To je jeden z dôvodov, prečo ChatGPT a jemu podobní niekedy „halucinujú“ – produkujú súvislý text, ktorý je úplný nezmysel.

Otázkou je, ako dosiahnuť, aby AI dokázala nezávisle oddeliť pravdu od lží a nebola aspoň o nič hlúpejšia ako mačka. Vedúci vývojári DeepMind David Silver a Richard Sutton ponúkajú odpoveď vo svojom nedávnom článku .

Spomínaná technológia „otvorí bezprecedentné možnosti“ a povedie k „budúcnosti radikálne odlišnej od všetkého, čo sme doteraz videli“.

„Môžu spôsobiť škodu“

Ďalšia generácia neurónových sietí by sa mala, podobne ako AlphaGo, učiť sama – získavať skúsenosti priamo z fyzického sveta, veria Silver a Sutton. Navyše bez akýchkoľvek obmedzení, či už ide o samostatnú hru, ľudský jazyk, alebo dokonca samotné ľudské vedomie.

Súčasné nástroje založené na LLM sú väčšinou krátke interakcie. Používateľ položí otázku – chatbot odpovie. Prakticky nedochádza k prenosu informácií z jednej epizódy do druhej. Pre nových agentov AI musí byť tok získavania a ovládania skúseností nepretržitý, rovnako ako pre ľudí a iné zvieratá. To vám umožní opraviť chyby a zlepšiť vašu efektivitu.

Okrem toho bude takáto AI schopná nezávisle vybrať najoptimálnejšie akcie na dosiahnutie cieľov – podľa vlastného chápania a nie na základe ľudských preferencií, hovorí článok. Používateľ napríklad zadá agentovi úlohu „zlepšiť moje zdravie“ alebo „nauč ma nový jazyk“ – a inteligencia stroja na to prechádza rôznymi spôsobmi, vrátane svojich vlastných.

Dôležitou podmienkou učenia je systém odmeňovania. AI musí nejako pochopiť, či sú jej akcie správne. Doteraz to tak či onak určoval ľudský expert a ľudia mohli podceniť úspech stratégií zvolených algoritmom. Teraz môže byť AI odmenená nielen hodnotením používateľov alebo špecialistov, ale aj objektívnymi ukazovateľmi prevzatými z reálneho sveta. Povedzme, že pri učení sa jazyka – výsledky skúšok, zlepšenie zdravia – chudnutie.

Ďalší dôležitý rozdiel: zatiaľ čo existujúce systémy okamžite reagujú na ľudské požiadavky bez toho, aby premýšľali o dôsledkoch, AI budúcnosti vyhodnotí svoje vlastné rozhodnutia – či pomôžu realizovať plány alebo naopak.

„V každom prípade agent podnikne postupnosť krokov zameraných na maximalizáciu dlhodobého úspechu. Jediný krok nemusí priniesť okamžitý úžitok alebo dokonca môže krátkodobo poškodiť, no napriek tomu slúži na dosiahnutie hlavného cieľa,“ píšu vývojári DeepMind.

Takáto AI existuje autonómne, nezávisle komunikuje nielen s ľuďmi, ale aj s inými počítačmi, dodávajú autori článku. Ale tu, podľa ich vlastného priznania, spočívajú hlavné riziká technológie – a strata pracovných miest nie je najhoršia.

Agenti, ktorí „autonómne interagujú so svetom počas dlhých časových období, aby dosiahli dlhodobé ciele“, zvyšujú pravdepodobnosť, že ľudské príležitosti „zasahovať do ich konania“ sa znížia, objasňujú Silver a Sutton. To znamená, že nie je jasné, aký stupeň autonómie je takýto systém schopný dosiahnuť, ani aké metódy si zvolí na riešenie svojich problémov.

Tu v plnej sile vyvstáva otázka základných hodnôt, ktoré budú zabudované do systémov AI.

„Sentimentálny nezmysel“

V polovici 20. storočia spisovateľ sci-fi ruského pôvodu Isaac Asimov sformuloval zákony robotiky, ktoré zakazujú mechanizmom akýmkoľvek spôsobom ubližovať ľuďom. Odvtedy sa veľa zmenilo: podľa niektorých lídrov amerických veľkých technologických korporácií ľudské životy a dokonca ani existencia ľudstva už nie sú najvyššou hodnotou.

Životopisec inovátorov Walter Isaacson v jednej zo svojich kníh opisuje rozhovor medzi podnikateľom Elonom Muskom a spoluzakladateľom Google Larry Page (Google vlastní DeepMind). Rozhovor sa odohral v roku 2013 na Elonovej narodeninovej oslave.

Šéf Tesly a SpaceX tvrdil, že ak sa včas neprijmú potrebné opatrenia, dominancia AI povedie k zániku ľudstva – „osamelej sviece vo vesmíre“. Page to odmietol ako „sentimentálny nezmysel“, ako to vyjadril Isaacson, a obvinil Muska zo „speciesizmu“ – zaujatosti voči svojmu vlastnému druhu: ak je možné vedomie znovu vytvoriť v stroji, prečo by sa nemalo hodnotiť rovnako? Jednoducho nás to posunie na novú úroveň evolúcie.

Okrem toho Elon Musk obviňuje konkurentov z Google a OpenAI (spoločnosť, ktorá vytvorila ChatGPT) z toho, že ich AI je podriadená ľavicovo-liberálnej ideológii takzvaného wokeizmu, ktorého podstatu vyjadruje skratka DEI (diverzita, spravodlivosť a inklúzia). Musk verí, že tieto hodnoty sú pre stúpencov wokeizmu dôležitejšie než čokoľvek iné, vrátane ľudského života.

Ak je umelá inteligencia naprogramovaná tak, aby sa za každú cenu snažila o rozmanitosť, urobí všetko, čo je v jej silách, aby dosiahla tento výsledok, prípadne aj zabíjala ľudí, varuje Musk.

Iní odborníci nesúhlasia: obmedzenia, ktoré fyzický svet ukladá systémom AI, zostanú v dohľadnej budúcnosti dostatočne významné, aby sa stroje nemohli stať existenčnou hrozbou pre ľudí. Technooptimisti aj alarmisti sa však zhodujú v jednom: pod vplyvom AI sa svet dramaticky a nezvratne zmení – a stane sa to rýchlejšie, ako si myslíme.

rianovosti/ skspravy.sk

Príspevok „Ľudia už nie sú potrební.“ Umelá inteligencia to posúva na ďalšiu úroveň je zobrazený ako prvý na Slovenské Noviny.