Je to logický vývoj výpočetní techniky. Atlas demonstruje vizi, kde je umělá inteligence v centru výpočetního prostředí, rozumí kontextu vašeho digitálního života a jedná vaším jménem. Příštích několik let rozhodne, zda k této transformaci dojde bezpečně.
Kybernetická bezpečnost se opírá o důvěru a hranice. Zatímco tradiční výpočetní technika má jasné hranice, aplikace běží izolovaně, webové stránky nemají přístup k datům jiných webů a uživatelé schvalují každou akci, umělá inteligence tyto hranice ale ruší.
Prohlížeče patří mezi nejčastěji zneužívané nástroje, protože jsou bránou k citlivým datům. S nástupem umělé inteligence se situace ještě zhorší. AI bude pracovat s plným oprávněním ve všech přihlášených relacích – bankovnictví, e-mailu, zdravotních záznamech, firemních systémech.
Hrozbou pro AI prohlížeče je nepřímé vložení příkazu. Nebezpečné pokyny totiž mohou být skryté v obsahu nějaké webové stránky. „Neviditelný“ text s instrukcemi totiž uživatel nemusí vidět, ale umělá inteligence je přečte a zpracuje.
Pokud AI prohlížeč zpracovává webovou stránku, nedokáže rozlišit vaše legitimní pokyny od škodlivých příkazů skrytých v obsahu. Tradiční bezpečnostní přístupy, jako jsou zásady stejného původu, jsou neúčinné, protože AI agenti jednají s vašimi plnými oprávněními a umělá inteligence považuje veškerý text za potenciálně proveditelný.
Jak ukázaly testy, jediná škodlivá adresa může vést ke krádežím e-mailů, dat z kalendáře nebo přihlašovacích údajů, protože AI asistent má neomezený přístup ke všemu, co děláte.
AI prohlížeče vyžadují přístup k datům, aby mohly pracovat efektivně. Čím více kontextu o vaší historii prohlížení, dokumentech, komunikaci a chování mají, tím jsou užitečnější. To ale vytváří rizika. Každá webová stránka, kterou navštívíte, každý formulář, který vyplníte, vše se stává trénovacími daty pro umělou inteligenci, aby vás lépe pochopila.
Systémy budou proudit citlivé informace, finanční údaje, lékařské záznamy nebo obchodní komunikace. AI musí vše zpracovat, aby poskytla správnou pomoc, a postupně tak vytváří vaše stále přesnější a komplexnější digitální dvojče. Tím ale nezáměrně tvoří komplexní infrastrukturu pro možnou špionáž.
Začala éra výpočetní techniky s umělou inteligencí. Ekonomické výhody a výhody pro uživatele jsou lákavé, ale je otázkou, zda dokážeme vybudovat adekvátní zabezpečení takto komplexních datových modelů.
Bezpečnost je nutné brát jako nedílnou součást všech projektů už od jejich počátku, oddělit příkazy uživatelů od nedůvěryhodného webového obsahu a žádat potvrzení uživatelů pro citlivé akce.
Organizace by měly zacházet s AI prohlížeči jako s vysoce rizikovými technologiemi, které vyžadují zvýšený dohled, jasné zásady přijatelného použití a omezení přístupu k citlivým údajům, dokud nebudou k dispozici odpovídající bezpečnostní postupy.
Regulační orgány musí vytvořit předpisy zohledňující rizika použití systémů umělé inteligence. Je třeba vyřešit transparentnost zpracování dat, zveřejňování bezpečnostních incidentů a odpovědnost v případě, že AI systémy jednají autonomně.
Atlas je prvním krokem v transformaci výpočetní techniky. Následujících 24 měsíců rozhodne, zda bezpečnost dožene inovace. Hranice, které nás po desetiletí chránily, se rozpadají. Ti, kteří jako první vytvoří adekvátní ochranu, budou definovat příští generaci výpočetní techniky pro miliardy lidí po celém světě.
Autor je Security Architect společnosti Check Point Software Technologies
(Redakčně upraveno)
