Novinky o AI: kybernetické riziká, Gatesove varovanie

AI a rastúci problém kybernetických prienikov

Britské Národné centrum kybernetickej bezpečnosti (NCSC) zverejnilo 3. novembra správu, ktorá varuje, že umelá inteligencia mení hrozbovú krajinu pre obrancov aj útočníkov. Agentúra uvádza, že prísnejší regulačný prístup Spojeného kráľovstva znamenal menej domácich vydaní modelov AI, no s väčším dôrazom na zodpovedné používanie a jasnejším obrazom o skutočných schopnostiach a rizikách.

Znepokojivejšia časť správy: NCSC hodnotí ako vysoko pravdepodobné, že ruskí kybernetickí aktéri prevzali open-source modely AI a pretrénovali alebo prispôsobili ich na útočné účely. Záleží na tom, pretože to ukazuje, že AI už nie je len obranným alebo produktivitným nástrojom – štátom prepojené skupiny ju aktívne prerábajú na zbraň, čo zvyšuje stávky pre riadenie a monitorovanie open-source modelov.

Bill Gates: odvetvie bagatelizuje nebezpečenstvo

Tiež 3. novembra Bill Gates v rozhovore dlhom hodinu, ktorý bol súčasťou prehľadu zverejneného v New York Times, povedal, že podľa neho odvetvie AI podceňuje riziká technológie, ktorú vytvára. Gates podľa správ medzi najväčšie obavy zaradil masovú nezamestnanosť a bioterorizmus. Tieto slová najvýznamnejšej technologickej osobnosti pridávajú váhu rastúcemu zboru hlasov, ktoré volajú po väčšej opatrnosti a dohľade, keď sa systémy AI stávajú schopnejšími.

Model počasia od DeepMind predbieha tradičné predpovede

Ten istý prehľad upozornil na analýzu jednotky Google DeepMind, podľa ktorej dokáže predpovedný model využívajúci AI poskytnúť presné predpovede počasia o deň či viac skôr než konvenčné metódy. Je to konkrétny príklad toho, ako sa výskum AI premieta do reálneho dopadu: rýchlejšie a presnejšie predpovede môžu byť dôležité od ochrany pred katastrofami až po poľnohospodárstvo a logistiku.

AI v praxi: nový spravodajský engine Norton s AI

Na produktovej strane prípadová štúdia zverejnená 3. novembra podrobne opísala, ako Gen Digital vytvoril pre produkt Norton Revamp spravodajský engine kurátorovaný AI pomocou Amazon Bedrock AgentCore Web Search. Keďže produkt nesie dôveryhodnú značku Norton, tím uviedol, že súlad s predpismi nie je predmetom kompromisov: bezpečnostné kontroly zahŕňali statickú analýzu kódu, skenovanie zraniteľností závislostí, autentifikáciu, šifrovanie dát, riadenie prístupu a – čo je kľúčové – validáciu výstupov generatívnej AI a filtrovanie obsahu.

Spoločnosť uviedla, že AI urýchlila identifikáciu relevantného obsahu, no konečné rozhodnutia o tom, čo sa zverejní, robili ľudia. Je to užitočný reálny príklad toho, ako sa firmy snažia zosúladiť rýchlostné výhody AI s potrebou dôveryhodných výstupov preverených ľuďmi, najmä v produktoch citlivých na bezpečnosť.

Prečo na tom všetkom záleží

Dohromady tieto správy kreslia obraz dvojsečnej povahy AI koncom roka 2026: tá istá technológia, ktorá dokáže rýchlejšie predpovedať počasie a kurátorovať dôveryhodné správy, je zároveň prispôsobovaná nepriateľskými aktérmi na kybernetické útoky, čo vyvoláva varovania osobností ako Bill Gates pred rizikami, ktoré odvetvie možno podceňuje. Dá sa očakávať, že regulátori, bezpečnostné agentúry a spoločnosti zaoberajúce sa AI sa s týmto napätím budú naďalej potýkať, kým sa schopnosti budú ďalej rozvíjať.