Compania Anthropic a transmis că a detectat și a oprit încercările de a folosi modelul său de inteligență artificială pentru activități rău intenționate, care ar putea sprijini crearea de arme biologice.
Raportul recent al firmei menționează că a identificat cinci cazuri în care actorii au utilizat modelele sale pentru potențiale dezvoltări de arme biologice, considerată una dintre cele mai grave riscuri ale tehnologiei.
Citește și: Platforma X a suspendat mii de conturi suspecte înainte de alegerile din SUA
Riscurile inteligenței artificiale și reacțiile din industrie
În ultimele luni, mai multe companii de AI au raportat încercări de utilizare abuzivă a tehnologiei, precum Google, care a descoperit o tentativă de a folosi modelul Gemini pentru sintetizarea agenților biologici transformați în arme. De asemenea, modelul Claude al Anthropic a fost implicat într-o campanie de spionaj cibernetic legată de Rusia și Iran.
Reacțiile din domeniu includ apeluri la restricții și interzicerea dezvoltării superinteligenței artificiale, precum și preocupări legate de potențialul pericol pentru umanitate. În schimb, președintele american a exprimat preocupări legate de competiție, subliniind importanța avansării în domeniu.
Anthropic a mai acuzat și alte firme chineze de încercări de a reproduce capacitățile modelului Claude, în timp ce cercetătorii care au lucrat la proiecte similare au lansat avertismente despre riscurile implicate.
Conform Mediafax.ro