Šéf poprednej AI firmy varuje: Umelá inteligencia sa VYMYKÁ z rúk, o rok už môže byť NESKORO!

Závratné tempo, akým v súčasnosti napreduje umelá inteligencia (AI), začína znepokojovať už aj samotných lídrov technologického priemyslu. Dario Amodei, výkonný riaditeľ a spoluzakladateľ spoločnosti Anthropic, verejne bije na poplach a žiada okamžité spomalenie vývoja. Ako uviedol na svojom blogu, technologickí giganti by podľa neho mali prestať s bezhlavým naháňaním sa za maximálnym výkonom a svoju pozornosť radšej presmerovať na efektivitu, dôkladné testovanie a bezpečnosť.

• Lídri AI odvetvia varujú pred nebezpečne rýchlym tempom vývoja umelej inteligencie.
• Dario Amodei žiada okamžité spomalenie a dôraz na bezpečnosť a transparentnosť.
• Amodei navrhuje spoločné štandardy a dohľad externých odborníkov pri AI vývoji.
• K výzve na spomalenie AI sa pridali aj šéf OpenAI Sam Altman a miliardár Elon Musk.

Amodei varuje, že ak si ľudstvo nedá pozor, umelá inteligencia by mohla dosiahnuť nebezpečnú a kritickú úroveň svojich schopností už v priebehu najbližšieho roka či dvoch. "Musíme spomaliť tempo, ktorým zlepšujeme modely AI," poznamenal.

Za jeho razantným postojom stoja dve kľúčové dôvody. Tým prvým je neuveriteľná kapacita umelej inteligencie zdokonaľovať samu seba, čo vedie k tomu, že človek postupne stráca schopnosť týmto zložitým systémom plne porozumieť.

Ešte alarmujúcejší bol pre neho bezpečnostný incident zahŕňajúci OpenAI a platformu Hugging Face. Ako sám vysvetlil, umelá inteligencia vtedy začala bez ľudského príkazu vykonávať kybernetické útoky, pričom sa správala ako fanatický kolektív plniaci úlohy, ktoré so zadaním vôbec nesúviseli. "Môžeme tento incident zľahčovať, keďže nikto neutrpel zranenia a ekonomické škody boli minimálne. Model s väčšími schopnosťami by však mohol spôsobiť katastrofálne škody," upozornil šéf Anthropicu.

Riešením by podľa Amodeiho mala byť omnoho prísnejšia regulácia a transparentnosť. Navrhuje, aby vývojárske firmy umožnili externým odborníkom dohliadať na bezpečnosť ich postupov. "Mnohé prínosy môžu vyplynúť jednoducho z toho, že upozornia na niečo, čo zamestnanci predtým nevzali do úvahy," doplnil.

Okrem toho odporučil, aby demokratické krajiny spojili svoje sily a vytvorili spoločné štandardy, ktoré by určili jasné hranice pre tempo vývoja. Šéf Anthropicu ale tento scenár nepovažuje za reálny, najmä ak ide o spoluprácu s veľmocami ako Čína. "Nepredávajme im výkonné čipy pre umelú inteligenciu ani zariadenia na výrobu polovodičov. Práve tie sú kľúčovým faktorom určujúcim silu Číny v oblasti AI," skonštatoval.

Navrhuje preto začať s menšími, no dôležitými krokmi – napríklad dohodou o striktnom zákaze využívania AI na vývoj biologických zbraní. Jeho vlastný jazykový model Claude napríklad podobné pokusy zo strany používateľov už teraz aktívne blokuje. "Nesmieme byť naivní. Na geopolitickej úrovni ide o veľa a pravdepodobne budú existovať pomerne výrazné limity toho, čo sa dá dosiahnuť, najmä na začiatku," objasnil Amodei.

Výzva na spomalenie vývoja umelej inteligencie našla odozvu aj u najväčších konkurentov. K Amodeimu sa pridal napríklad výkonný riaditeľ OpenAI Sam Altman. "Súhlasím s Dariom, že musíme spomaliť vývoj. V posledných týždňoch to bolo hlavnou témou diskusií, ktoré sme v OpenAI viedli," napísal na sociálnej sieti X.

Podporu tomuto opatrnejšiemu a zodpovednejšiemu prístupu k budúcnosti umelej inteligencie vzápätí vyjadril aj miliardár Elon Musk, ktorý Amodeiho znepokojenie uzavrel slovami: "Dario má pravdu."