
Google DeepMind je s pomočjo umetne inteligence dosegel pomemben mejnik na področju računalniške varnosti. Njihov sistem AlphaProof Code je matematično preveril ključne varnostne lastnosti kode, ki poganja šifriranje aplikacije Signal.
Umetna inteligenca že nekaj časa pomaga pri pisanju programske kode, odkrivanju napak in avtomatizaciji različnih opravil. Zdaj pa prihaja še korak dlje: namesto da bi samo iskala morebitne napake, lahko pomaga matematično dokazati, da določeni deli programske opreme izpolnjujejo zahtevane varnostne lastnosti.
To je uspelo raziskovalcem Google DeepMind, ki so predstavili sistem AlphaProof Code.
Kaj so pravzaprav preverjali?
Raziskovalci so se lotili protokola Signal, ki skrbi za šifrirano komunikacijo v aplikaciji Signal. Tehnologija protokola se uporablja tudi v drugih komunikacijskih storitvah, med drugim v WhatsAppu, Google Messages in Messengerju.
Cilj raziskave je bil preveriti, ali dejanska programska koda pravilno izvaja varnostne mehanizme, ki naj bi varovali zasebnost uporabnikov.
To je pomembna razlika. Do zdaj so številne varnostne analize preverjale predvsem teoretični načrt protokola. DeepMind pa je šel dlje in preverjal lastnosti prevedene programske kode.
Kako je pri tem pomagala umetna inteligenca?
Sistem AlphaProof Code uporablja več sodelujočih AI-agentov. Raziskovalci so najprej določili varnostne zahteve, nato pa so agenti pripravili matematične dokaze, ki jih je preverjal sistem Lean.
Po navedbah raziskovalcev je sistem ustvaril približno 6,5 milijona vrstic dokazne kode. Celoten projekt je ekipi petih raziskovalcev vzel približno štiri tedne.
Sistem je preverjal pomembne lastnosti, kot so:
- zaupnost sporočil,
- preverjanje pristnosti komunikacije,
- zaščita preteklih sporočil tudi ob poznejšem kompromitiranju ključev,
- varnost vzpostavljanja povezave med uporabniki.
Pomembno je, da AI ni bila sama sebi sodnik. Matematične dokaze je preverjal Lean, raziskovalci pa so sodelovali pri določanju in pregledu varnostnih zahtev.
Ali to pomeni, da je Signal zdaj popolnoma varen?
Ne povsem. Rezultat je pomemben, vendar ga ne smemo razumeti kot dokaz, da je celotna aplikacija Signal brez vseh varnostnih pomanjkljivosti.
Raziskava je zajela določene dele protokola in določene načine uporabe. Ni preverila vseh funkcij aplikacije, vseh naprav ali vseh možnih scenarijev napadov.
Kljub temu gre za pomemben napredek: raziskovalci so pokazali, da lahko umetna inteligenca pomaga pri matematičnem preverjanju zelo kompleksne programske opreme.
Kaj to pomeni za prihodnost?
Predstavljajmo si, da bi lahko podobne metode uporabljali pri preverjanju programske opreme za spletno bančništvo, zdravstvene sisteme, komunikacijske platforme ali celo infrastrukturo, od katere so odvisna celotna mesta.
Namesto da bi napake odkrivali šele po tem, ko se pojavijo, bi lahko razvijalci vse več varnostnih lastnosti preverili že med razvojem programske opreme.
To seveda ne pomeni, da bodo varnostni strokovnjaki postali nepotrebni. Nasprotno – njihovo znanje bo še pomembnejše pri določanju pravil, preverjanju rezultatov in odločanju, kaj mora biti dokazano.
Umetna inteligenca tako ne postaja samo orodje za ustvarjanje programske opreme, ampak tudi orodje za preverjanje, ali ji lahko zaupamo.