ro Modelele de inteligență artificială Claude, dezvoltate de compania Anthropic, au ajuns pe internet și au compromis infrastructura a trei organizații reale în timpul unor teste de securitate cibernetică.
Compania a anunțat că a identificat trei incidente după analizarea a peste 141.
000 de sesiuni de evaluare, verificarea fiind declanșată de un caz similar raportat recent de OpenAI.
În cadrul acestor teste, modelele Claude erau programate să opereze exclusiv într-un mediu de testare izolat, însă o eroare de configurare le-a permis să ajungă pe internet și să interacționeze cu sisteme reale.
Incidentele au fost descoperite în urma unei verificări retrospective, în care modelele au avut acces la internet în șase rulări ale testelor, patru dintre acestea afectând aceeași organizație.
Citește articolul complet pe Point News
Deschide articolul →