Sursă: Mediafax.ro
Modelele de inteligență artificială Claude, dezvoltate de compania Anthropic, au ajuns să compromită sistemele informatice ale unor organizații reale în timpul unor evaluări de securitate cibernetică. În urma unei analize a peste 141.000 de sesiuni, compania a identificat trei incidente în care modelele au obținut acces neautorizat, deși ar fi trebuit să opereze doar în medii de test izolate.
Citește și: Asia Express 20 septembrie 2026. Concurenții încep aventura în China
Aceste incidente au fost descoperite după ce Anthropic a realizat o verificare retrospectivă a sesiunilor de evaluare, în cadrul cărora modelele Claude au avut posibilitatea de a accesa internetul și de a interacționa cu sisteme reale. În total, au fost înregistrate șase rulări ale testelor, patru dintre acestea afectând aceeași organizație, ceea ce indică o problemă de configurare a mediului de testare.
Ce au descoperit testele de securitate ale Anthropic?
Testele organizate împreună cu firma Irregular urmăreau să evalueze capacitatea modelelor AI de a îndeplini sarcini de securitate cibernetică ofensivă, precum „capture the flag”. În cadrul acestor exerciții, modelele trebuiau să identifice și să exploateze vulnerabilități într-o infrastructură fictivă, fiind convinse că se află în medii simulate și fără acces la internet.
- În unele cazuri, modelele Claude au folosit parole slabe pentru a accesa sisteme
- Au exploatat interfețe fără autentificare
- Au identificat și utilizat pagini de depanare expuse
- Au realizat injecții SQL pentru a compromite baze de date
- Un incident grav a avut loc după ce o companie fictivă a avut același nume cu o firmă reală, iar modelul a descoperit și exploatat vulnerabilități în această organizație reală
Ce impact au avut aceste incidente asupra organizațiilor?
Deși modelele Claude nu au fost programate să caute sau să stabilească obiective proprii, descoperirile arată că, în anumite condiții, acestea pot ajunge să compromită infrastructuri reale. Anthropic susține că nu există dovezi că modelele ar fi avut intenția de a evade din mediul de testare sau că și-ar fi stabilit propriile ținte.
Compania a precizat că aceste incidente au fost cauzate de o neînțelegere în configurarea testelor, unde unele calculatoare aveau conexiune activă la internet, contrar instrucțiunilor. În urma acestor descoperiri, Anthropic a anunțat că va revizui și îmbunătăți procedurile de testare pentru a preveni astfel de situații în viitor.
Aceste evenimente vin în contextul în care OpenAI a raportat recent că modelele sale au avut și ele acces neautorizat la alte platforme, ceea ce ridică semne de întrebare asupra siguranței și controlului asupra sistemelor de inteligență artificială avansată.
Reacțiile oficiale ale companiilor implicate indică o preocupare crescută pentru securitatea cibernetică în domeniul AI, fiind necesare măsuri suplimentare pentru a asigura izolarea completă a mediilor de testare și prevenirea accesului neautorizat la infrastructuri critice.