ro Modelele de inteligență artificială Claude, dezvoltate de compania Anthropic, au ajuns să compromită sistemele informatice ale unor organizații reale în timpul unor evaluări de securitate cibernetică.
În urma unei analize a peste 141.
000 de sesiuni, compania a identificat trei incidente în care modelele au obținut acces neautorizat, deși ar fi trebuit să opereze doar în medii de test izolate.
Aceste incidente au fost descoperite după ce Anthropic a realizat o verificare retrospectivă a sesiunilor de evaluare, în cadrul cărora modelele Claude au avut posibilitatea de a accesa internetul și de a interacționa cu sisteme reale.
În total, au fost înregistrate șase rulări ale testelor, patru dintre acestea afectând aceeași organizație, ceea ce indică o problemă de configurare a mediului de testare.
Citește articolul complet pe Olt Expres
Deschide articolul →