Koktejl.sk
Britský počítačový expert Jacob Coxon opustil Anthropic, spoločnosť stojacu za systémem Claude. Dvadsaťsedemročný odborník sa posledné tri roky venoval výskumu predtrénovania modelov v OpenAI a Anthropicu.
Obe firmy teraz na sieti X obvinil z nezodpovedného prístupu k bezpečnosti umelej inteligencie. „Ani jedna spoločnosť nekoná zodpovedne. Ženú sa priamo k superinteligencii schopnej sebazdokonaľovania a hazardujú s našimi životmi,“ napísal pri oznámení svojho odchodu.
Coxon tvrdí, že obavy vnútri odvetvia sú seriózne a oprávnené. „Ľudia, ktorí AI vyvíjajú, naozaj veria, že by nás mohla do konca desaťročia všetkých zabiť,“ uviedol. Podľa neho toto nebezpečenstvo v Anthropicu dobre chápu, firma však zostáva uväznená v pretekoch o prvenstvo. Upozornil tiež, že niektorí vedúci pracovníci a výskumníci vyjadrujú v súkromí strach, hoci v médiách volia opatrnejšie formulácie.
Na príspevok reagoval Evan Hubinger, ktorý sa v Anthropicu venuje bezpečnosti AI. „Jacob má v tomto pravdu – skutočne veríme, že by AI mohla zabiť všetkých ľudí!“ napísal. Osobne odhaduje pravdepodobnosť takého scenára počas najbližších 10 rokov na viac než desať percent. Hubinger zároveň verí, že Anthropic robí maximum, aby tomu predišiel.
Pripustil však, že firma zatiaľ nemá plán, ako vyriešiť zosúladenie superinteligencie s ľudskými zámermi, a nie je zrejmé, že k takémuto riešeniu smeruje. Coxon vyzval ostatných expertov, aby zvážili, ako budú nasledujúce roky skutočne vyzerať. Upozornil, že snaha zabrániť celosvetovým pretekom môže vyžadovať aj dočasný zákaz zvyšovania schopností modelov.
Pred rizikami varoval aj kanadský odborník Geoffrey Hinton: „Strata kontroly nad AI inteligentnejšou, než sme my, by mohla byť katastrofálna a mohla by dokonca viesť k vyhynutiu ľudstva.“
Koktejl.sk
