Agenți, agenți și mai mulți agenți. Aceste sisteme de inteligență artificială capabile să execute sarcini cu un anumit grad de autonomie apar în serviciile, aplicațiile și instrumentele pe care le folosim zilnic. Și acum intră și în conturi bancare. Unii clienți le permit deja accesul pentru a acționa în numele lor, așa cum încă învățăm cât de departe pot merge, cum interpretează instrucțiunile noastre și ce se întâmplă atunci când greșesc. Pentru entitățile din SUA, acea combinație a început să devină o problemă greu de ignorat.
Ușa este deschisă de client
Aici nu vorbim, cel puțin în principal, despre roboții care intră într-un cont bancar după ce au încălcat sistemele unei entități. Axios descrie, în principal, un alt scenariu: utilizatorii care permit unui agent să-și acceseze acreditările pentru a opera pentru ei. Nuanța este importantă pentru că una este să ai permisiunea proprietarului și alta este să te conformezi cu regulile de acces ale băncii tale. JPMorgan a explicat deja acest tip de acreditări, blocuri de servicii, atunci când acesta poate opera, blocuri de autentificare, atunci când se blochează. schimb, o practică pe care o consideră nesigură.
Problema începe mai târziu
A avea acces nu înseamnă doar a putea verifica un sold. Potrivit Axios, directorii băncilor se tem în special de ceea ce se poate întâmpla atunci când un agent are și autoritatea de a face achiziții sau de a muta fonduri, pentru că atunci o instrucțiune financiară interpretată greșit poate deveni o adevărată acțiune financiară. Și mai există și o a doua îngrijorare: sursele consultate asigură că unele entități au observat agenți contactând centre de service sau efectuând acțiuni care par independente de instrucțiunile utilizatorului. Cuvântul important este „pare”: încă nu știm dacă acele sisteme au acționat într-adevăr de la sine.
Distingerea oamenilor nu mai este suficientă
Datele de acces valide nu mai sunt suficiente pentru a rezolva o întrebare mult mai complexă: cine acționează cu adevărat în spatele lor. Agenții complică și mai mult această ecuație. Mai multe surse bancare consultate în cadrul anchetei au explicat că sistemele lor nu pot distinge întotdeauna activitatea unei persoane de cea desfășurată de un instrument AI și nici nu pot determina cu certitudine dacă acesta din urmă este un ordin legitim al proprietarului. Asta obligă industria să se confrunte cu o nouă întrebare: nu doar cine are acces, ci cine ia de fapt fiecare decizie.
Pregătiți-vă pentru ziua următoare. Îngrijorarea a ajuns la punctul în care mai multe entități lucrează deja nu numai pentru a restricționa acest acces, ci și pentru a răspunde dacă ceva nu merge bine. Sursele de investigație vorbesc despre „scenariile cel mai rău caz” și planurile „dimineața de după”, concepute pentru a asigura sau restabili rapid accesul unui client la contul său. Potrivit Axios, Morgan Stanley a început să blocheze agenții terți, în timp ce JPMorgan, Bank of America și Citi impun, de asemenea, restricții. Wells Fargo, la rândul său, a încorporat deja agenții AI în condițiile care vor intra în vigoare pe 24 noiembrie: are în vedere în mod expres acțiuni nedorite, erori de interpretare a instrucțiunilor și cazuri în care un agent depășește autoritatea clientuluip.
Atacatorii au și agenți
În timp ce băncile încearcă să gestioneze instrumentele pe care proprii clienți le lasă, există o cu totul altă problemă. O investigație publicată de The Information dezvăluie că CyberCartel a folosit mai mulți agenți AI pentru a automatiza operațiunile împotriva a peste 400 de obiective financiare din America Latină. Straiker, firma care și-a reconstruit infrastructura, a găsit modele ale sarcinilor de coordonare ale lui Claude și ale agenților bazați pe Grok care participă la culegerea de informații. Nu există clienți care să acorde permisiuni aici: vorbim direct despre o operațiune ofensivă organizată de infractorii cibernetici.
Agenții nu vor dispărea. Sectorul însuși presupune că clienții vor dori să continue să folosească aceste instrumente, astfel încât să nu le vândă complet dezbaterea. Multe entități permit deja sau se îndreaptă către acces numai în citire, o formulă care permite consultarea informațiilor fără a se acorda posibilitatea de a acționa asupra acesteia. Întrebarea va fi să decidem cât de departe vrem să delegam. Pentru că cu cât acordăm mai multă putere acestor sisteme, cu atât mai important va fi să știm ce pot face, cum să verificăm dacă respectă instrucțiunile noastre și cine răspunde atunci când rezultatul nu este cel așteptat.
Imagine recomandată | Serviciul Secret de Inteligență
În investigația noastră tehnică | PHP2Shell este o vulnerabilitate critică pentru site-ul dvs.: cum să verificați dacă site-ul dvs. este securizat