Securitate Cibernetică & Hacking Etic

Mai puțin de 100 de caractere, 1.200 de site-uri web atacate și peste 100 compromise: iată cum AI schimbă securitatea cibernetică

Mai puțin de 100 de caractere, 1.200 de site-uri web atacate și peste 100 compromise: iată cum AI schimbă securitatea cibernetică

De ani de zile am presupus că securitatea cibernetică a fost o cursă la distanță: cineva a găsit o vulnerabilitate, altul a încercat să o închidă și, între ele, a fost nevoie de timp, cunoștințe și multă muncă umană pentru a transforma acel eșec într-un atac real. Acea logică nu a dispărut, dar începe să se miște mai repede. Inteligența artificială nu mai ajută doar la scrierea codului sau la căutarea informațiilor: unele sisteme pot primi o țintă, pot lucra ore întregi și pot înlănțui multe dintre sarcinile care țineau anterior ocupat un atacator.

Câteva instrucțiuni, sute de obiective

Cazul observat de Snorre Fagerland pune cifre pe această schimbare de scară. Un atacator vorbitor de chineză le-a dat agenților săi instrucțiuni de mai puțin de 100 de caractere în limba chineză și le-a lansat împotriva more than 100; Până la sfârșitul săptămânii trecute, peste 100 au fost compromise. Reuters a identificat pagini legate de Deere, SharkNinja și Cummins printre victime. Desigur, vorbim despre 1.200 de încercări de intruziune, atacuri nu reușite, iar sfera reală a datelor fiecărei persoane afectate rămâne neclară.

Ce a făcut cu adevărat AI

Pentru a înțelege de ce contează acest caz, mai întâi trebuie să vă uitați la Cairn. Nu ne confruntăm cu un AI creat special pentru hacking, ci mai degrabă cu un sistem deschis de rezolvare a problemelor care utilizează mai mulți agenți. Începând cu un obiectiv, ei pot împărți munca, pot înregistra constatările care apar pe parcurs și pot folosi acele informații partajate pentru a decide care va fi următoarea încercare. Aplicat la o intruziune, acest mecanic vă permite să efectuați sarcini de recunoaștere și căutare a vulnerabilităților ore întregi fără a avea nevoie de instrucțiuni umane pentru fiecare mișcare.

Nu au fost doar atacuri automate. Unul dintre amenințările documentate, pentru nici un exemplu, nu arată cât de departe amenințările de cercetare. că autonomia ar putea merge. După ce nu a găsit vulnerabilități în aplicația vizibilă a unei companii mari, sistemul a început să acceseze cu crawlere înregistrările digitale pentru a găsi infrastructura asociată. El a găsit un panou accesibil de pe Internet, a identificat o slăbiciune discretă în procesarea datelor și a continuat să experimenteze ore întregi, până când agenții au raportat că au făcut ca serverul să execute comenzi. „Aceasta nu este o chestie pentru copii de scenariu”, a rezumat specialistul pentru Reuters când a descris complexitatea a ceea ce a observat.

De asemenea, costul se schimbă

Proiectele care și-au atins obiectivul au durat în medie puțin sub 23 de ore, conform analizei NorForge, dar acel timp nu a fost echivalent cu 23 de ore de muncă umană. Fagerland a estimat că întreaga campanie a consumat aproximativ 5.000 de dolari în jetoane, aproximativ 50 de dolari per angajament realizat. Acestea sunt cifre de bază, nu facturi observate direct, dar ajută la înțelegerea schimbării: o lucrare care anterior necesita o atenție constantă poate fi continuată cu un cost relativ scăzut, în timp ce o singură persoană menține numeroase încercări active.

Un atacator se poate multiplica

Ceea ce am văzut cu Cairn se potrivește cu o tendință mai largă. Anthropic a documentat operațiuni în care sistemele agentice și-au asumat sarcini de recunoaștere, exploatare și extracție de date ore întregi, în timp ce Google Threat Intelligence a observat, de asemenea, trecerea de la mesaje simple la fluxuri de lucru din ce în ce mai autonome. Tehnicile nu sunt neapărat noi; mulți continuă să se bazeze pe vulnerabilități cunoscute, acreditări furate sau servicii expuse. Ceea ce se schimbă este câte dintre aceste sarcini le poate delega o singură persoană și cât de mult își poate extinde astfel domeniul de acțiune.

<img alt='LLM-urile sunt vârful aisbergului, adevărata revoluție a inteligenței artificiale este în „modele mondiale” din ce în ce mai sofisticate’ src="https://i.blogs.es/eaf2bb/gente/375_142.jpeg"/>
LLM-urile sunt vârful aisbergului, adevărata revoluție a inteligenței artificiale este în „modele lumii” din ce în ce mai sofisticate

De asemenea, apărarea trebuie să se schimbe

Până acum am văzut cum AI poate crește ceea ce un atacator este capabil să facă, dar cealaltă jumătate a problemei se află în sistemele în sine. Când un agent trece dincolo de simplul răspuns la întrebări și obține permisiuni de a interoga date, de a folosi instrumente sau de a modifica resurse, orice potențial abuz câștigă amploare. Microsoft s-a concentrat tocmai pe acest risc și pe nevoia de a limita privilegiile și de a supraveghea acțiunile, în timp ce NCSC se așteaptă ca AI să contribuie la atacuri mai rapide, mai frecvente și mai eficiente.

Omul este încă acolo

Toate acestea nu înseamnă că atacatorii au dispărut din proces și nici că fiecare încercare se încheie cu o încălcare gravă. Reuters nu a putut determina câte date, dacă au fost extrase neautorizat, au fost extrase neautorizat și au descris unele dintre efectele acestei campanii în această campanie. Rapoartele sectoriale continuă să plaseze oamenii în spatele deciziilor precum alegerea obiectivelor, interpretarea rezultatelor sau monetizarea accesului. Ceea ce se schimbă este cât de mult poate face o singură persoană înainte de a avea nevoie de o altă intervenție umană.

Imagine recomandată | Tima Miroshnichenko

În investigația noastră tehnică | Garda Civilă cumpără un sistem de acces de la distanță la telefoanele mobile Android și iPhone pentru 2,5 milioane

Partajează acest dosar: