Odvětví kybernetické bezpečnosti se potýká se vznikem Mythos, výkonného modelu umělé inteligence vyvinutého společností Anthropic, který má neobvyklou schopnost identifikovat zranitelná místa v softwaru. Přestože byla existence modelu odhalena náhodou kvůli nezabezpečené webové stránce, důsledky takového nástroje jsou hluboké. To vyvolalo debatu o tom, zda je umělá inteligence katastrofickou hrozbou nebo zda se stane životně důležitým štítem pro digitální obranu.
Detekce digitálního „hlavního klíče“
Mythos nebyl určen pro širokou veřejnost. Podle Anthropic tento model získal náhodnou, ale extrémně sofistikovanou schopnost: najít kritické chyby v téměř jakémkoli softwaru, což uživatelům potenciálně umožňuje obejít bezpečnostní protokoly.
Rozsah schopností modelu je působivý. Společnost Antropic uvádí, že Mythos identifikoval tisíce zranitelností vysoké a kritické závažnosti v různých operačních systémech. Tento druh efektivity představuje pro digitální věk základní otázku: co se stane, když stroj dokáže během několika sekund to, co by zkušenému hackerovi trvalo měsíce?
Kontrolovaný přístup versus nekontrolovaná rizika
Aby se minimalizovalo riziko zneužití, společnost Anthropic implementovala strategii omezeného přístupu v rámci Project Glasswing. Namísto uvolnění nástroje veřejnosti jej společnost zpřístupnila úzkému okruhu vedoucích pracovníků v oboru, včetně:
– Technologičtí giganti: Apple, Google, Microsoft a NVIDIA;
– Poskytovatelé cloudu: Amazon Web Services (AWS);
– Finanční instituce: JPMorganChase.
Cílem je umožnit těmto organizacím používat Mythos k „zátěžovému testování“ jejich vlastních systémů, hledání a opravování chyb dříve, než je útočníci zneužijí.
Bezpečnost tohoto řízeného nasazení však již byla vyzkoušena. Neoprávněným uživatelům na soukromých fórech se podařilo získat přístup ke zkušební verzi „kvalifikovanými odhady“ o umístění modelu – bezpečnostní chyba, která je ironická vzhledem k samotnému účelu nástroje.
Je hrozba přehnaná?
Navzdory alarmujícím titulkům se odborníci neshodnou na tom, zda Mythos představuje bezprostřední „hrozbu pro civilizaci“.
Argumenty pro opatrnost
Institut AI Security Institute (AISI) poznamenává, že zatímco Mythos představuje výrazné zlepšení oproti předchozím modelům, jeho současný úspěch je z velké části omezen na útoky na „malé, slabě chráněné a zranitelné podnikové systémy“. Zatím neexistuje žádný důkaz, že je schopen hackovat vysoce zabezpečené moderní sítě.
Argumenty pro pragmatismus
Bezpečnostní výzkumníci, jako je Bobby Holley z Firefoxu, se domnívají, že ačkoli je Mythos neuvěřitelně efektivní, nemusí být nutně „chytřejší“ než člověk. Při testování našel Mythos v prohlížeči Firefox 271 zranitelností, ale žádná z nich nebyla tak složitá, aby je elitní lidský výzkumník nenašel.
Skutečný posun není v typu nalezených chyb, ale v rychlosti a rozsahu :
– Efektivita: AI je neúnavná a důkladná; nachází nedostatky, které lidem kvůli únavě nebo nedostatku času prostě chybí.
– Výhoda Defender: Pokud vývojáři softwaru používají Mythos k auditu svého kódu před vydáním, mohou efektivně „očistit“ své programy od zranitelností. To by mohlo potenciálně vést ke světu, kde jsou všechny známé defekty identifikovány a opraveny.
Okno příležitostí se zavírá
Vznik Mythos zdůrazňuje změnu paradigmatu v kybernetické bezpečnosti. Vstupujeme do éry automatizovaného válčení, kde útočníci i obránci využívají AI ke zvýšení své obratnosti.
I když tento nástroj v současnosti pomáhá více obráncům než útočníkům, krajina se rychle mění. Experti varují, že takové schopnosti pravděpodobně padnou do rukou útočníků během příštích 18 měsíců.
“Okno příležitosti dostat se před tento proces je otevřené, ale rychle se uzavírá.” — Kevin Curran, Univerzita v Ulsteru
Závěr
Mythos slouží jako vysoce rizikový důkaz konceptu: AI rychle zrychluje cyklus odhalování zranitelnosti. I když nabízí nový výkonný způsob ochrany softwaru, současně vytváří plán pro mnohem rychlejší a efektivnější kybernetické útoky.
