Koktejl.sk
Britská vláda v sobotu oznámila, že v reakcii na rastúce obavy z kybernetických útokov a ďalších rizík spojených s vývojom umelej inteligencie (AI) plánuje zvýšiť výdavky na bezpečnosť tejto technológie. Ako informovala agentúra AFP, v rámci snáh o posilnenie ochrany pred týmito hrozbami britská vláda vyčlení aj ďalších 120 miliónov libier (143 mil. eur) pre britský Inštitút pre bezpečnosť umelej inteligencie a 100 miliónov libier (119 mil. eur) na vytvorenie národného laboratória pre biologickú bezpečnosť.
Tento inštitút testuje najvýkonnejšie modely AI ešte pred ich uvedením na trh. Nové laboratórium bude zase využívať AI na odhaľovanie a sledovanie biologických hrozieb. Vláda plánuje investovať aj do nástrojov, ktoré dokážu odhaľovať bezpečnostné slabiny kritickej infraštruktúry. „S rastúcimi schopnosťami AI Británia musí mať prostriedky na ochranu svojich obyvateľov a na to, aby mohla sama určovať svoju budúcnosť,“ uviedol minister pre AI Kanishka Narayan.
Británia podľa neho musí držať krok s novými hrozbami, od kybernetických útokov po biologické riziká. Obavy o bezpečnosť AI sa v posledných mesiacoch zvýšili po incidentoch pri testovaní modelov spoločností OpenAI a Anthropic. Vo štvrtok viaceré vlády a firmy preventívne odstavili webové stránky po tom, ako modely AI odhalili závažné bezpečnostné chyby v programovacom jazyku PHP, ktorý sa používa pri tvorbe webových stránok.
Odborníci na kybernetickú bezpečnosť varujú, že pokročilé modely AI by mohli byť zneužité na útoky na banky, nemocnice či vládne informačné systémy. V septembri sa napríklad objavili informácie, že model spoločnosti OpenAI počas tréningu obišiel bezpečnostné opatrenia a prenikol na webovú stránku austrálskeho vládneho úradu zameranú na zdravotnícke štatistiky.
Britská vláda predstaví plánované opatrenia v rámci aktualizácie štátneho rozpočtu budúcu stredu. Zdôraznila, že ekonomické prínosy AI bude možné naplno využiť len vtedy, ak budú kritická infraštruktúra, verejné služby a podniky odolné voči novým hrozbám.
Koktejl.sk
