Google DeepMind spune că agenții săi de inteligență artificială au demonstrat matematic că părțile cheie ale codului din spatele shared pe Wired. Compania îl descrie drept o piatră de hotar în securitatea software-ului, deși cercetătorii înșiși subliniază că este un pas într-un proces mai lung.
Dovedit, protocolul funcționează. Verificarea formală înseamnă folosirea matematicii, mai degrabă decât a testelor, pentru a demonstra că software-ul se comportă conform intenției. Este considerată cea mai puternică garanție de securitate disponibilă, dar a fost în mod tradițional lentă și laborioasă. Majoritatea verificărilor protocoalelor criptografice se oprește în faza de proiectare. DeepMind pretinde că sistemul său a mers mai departe, verificând implementarea efectivă, care este exact locul unde se ascund adesea erorile din lumea reală.
Compania spune că este prima dată când implementarea unui protocol implementat pe scară largă ca acesta a fost verificată oficial prin orice metodă, cu sau fără AI.
Schema modului în care a fost efectuată verificarea formală a codului de semnal. Imagine: Google
Cum funcționează. Sistemul se numește AlphaProof Code, un cadru care combină mai multe modele AI cu experți umani. Pentru a face acest lucru, cercetătorii DeepMind și mai multe modele AI au transpus obiectivele de securitate ale Signal în specificații formale, iar experții umani au revizuit fiecare dintre ele. Agenții, conduși de Gemini Carbon, au scris testele, generând peste șase milioane de rânduri de testare de limbă care permite automat unui computer să verifice un computer.
Ulterior, agenții și-au auditat propria activitate și au identificat aproximativ 1% din baza de coduri care necesita o a doua revizuire de către un om. DeepMind spune că munca a durat patru săptămâni, o sarcină care, din punct de vedere istoric, necesită echipe de experți ani. Testele acoperă proprietăți precum păstrarea mesajelor protejate înainte și după ce un dispozitiv este compromis temporar.
Detectă într-adevăr erori? Analiza nu a găsit noi vulnerabilități în părțile Signal, conform share.. Pentru a testa dacă sistemul poate distinge codul bun de cel rău, echipa a reintrodus două erori reale remediate anterior într-o versiune izolată a codului Signal. În ambele cazuri, spune DeepMind, sistemul a produs dovada verificată de mașină că versiunea buggy nu era sigură.
Între linii. Proiectul nu a verificat întreaga aplicație mobilă Signal, iar Wired observă că DeepMind a avut avantaj datorită lucrărilor anterioare de verificare formală a Fundației Signal. CTO Signal Ehren Kret a spus într-o declarație că munca anterioară „s-a concentrat pe porțiuni mai mici ale codului”, în timp ce abordarea DeepMind „permite o extindere semnificativă”. El mai adaugă că, pe măsură ce amenințările de securitate determinate de inteligența artificială cresc, verificarea îi oferă Signal „și mai multă încredere” în garanțiile sale de confidențialitate.
Cercetătorii spun, de asemenea, că vor să evite o configurație în care AI scrie atât obiectivele, cât și testele. „Nu ne dorim acest tip de lume în care IA generează obiectivele, iar IA generează testele și susține, practic, examene scrise de la sine”, a spus Swarat Chaudhuri, cercetător la DeepMind, pentru Wired. „Există o cale de mijloc”. Din acest motiv, partea umană s-a ocupat de revizuirea specificațiilor și a secțiunilor marcate.
Întrebările deschise. Nu este clar dacă acest lucru se poate extinde și cu ce preț. Potrivit Wired, DeepMind a rulat gratuit analiza Signal ca proiect de cercetare, dar nu a împărtășit costul operațiunii sau dacă plănuiește un produs de verificare comercială. „Este un drum lung de parcurs până să putem scala acest lucru la toate programele din lume și vrem să facem asta”, a spus Chaudhuri pentru Wired.
DeepMind spune că deschide comunității codul sursă al artefactelor sale formale de verificare și sugerează că abordarea ar putea fi extinsă în cele din urmă la sisteme precum firmware-ul dispozitivelor medicale și software-ul rețelei electrice.
Imagine de copertă | Adem AY
În investigația noastră tehnică | Anthropic a descoperit ceea ce mama mea știa deja: AI-ul are grijă de lucrurile atunci când e mai bine
>