Sursă: Mediafax.ro
Anthropic, una dintre cele mai importante companii din industria inteligenței artificiale, avertizează asupra unui risc major legat de evoluția tehnologică a AI-ului. Conform analizei publicate recent, sistemele de inteligență artificială ar putea ajunge într-un punct critic în care vor putea să se îmbunătățească singure, fără intervenția umană.
Citește și: Cinci firme din recrutare au păcălit statul cu 6,2 milioane de lei, descoperit de ANAF
Compania afirmă că aproximativ 80% din codul folosit în prezent de sistemul Claude, chatbotul dezvoltat de Anthropic, este generat automat de AI. La începutul anului 2025, această proporție era mult mai mică, majoritatea sarcinilor fiind realizate de programatori umani. În ultimele luni, diferența s-a redus semnificativ, iar compania estimează că sistemul ar putea depăși performanțele umane în programare chiar în cursul acestui an.
Ce înseamnă auto-îmbunătățirea recursivă a AI-ului?
Conceptul de „auto-îmbunătățire recursivă” se referă la procesul în care un sistem AI devine suficient de avansat pentru a proiecta și antrena versiuni mai performante ale sale, declanșând un ciclu continuu de progres tehnologic. Anthropic consideră că această evoluție poate duce la o „singularitate tehnologică”, un scenariu în care ritmul dezvoltării depășește capacitatea oamenilor de a înțelege și controla sistemele create.
- 80% din codul actual este generat automat de AI
- Diferențele între codul scris de AI și cel uman sunt minime
- Proiectele de cercetare conduse aproape integral de AI au obținut rezultate superioare celor umane
- Estimările indică depășirea performanțelor umane în programare în acest an
- Riscul de scăpare de sub control al sistemelor AI devine tot mai real
Impactul și reacțiile din industrie
Analiza companiei a stârnit îngrijorare în mediul academic și tehnologic, fiind considerată un semnal de alarmă privind ritmul accelerat al dezvoltării AI. Anthropic recomandă încetinirea ritmului de avansare pentru a evita un scenariu incontrolabil, însă admit că un acord global în acest sens este dificil de realizat, având în vedere interesele diverse ale actorilor implicați.
Deocamdată, cercetările continuă, iar compania susține că monitorizează atent evoluția tehnologiei pentru a preveni orice risc major legat de scăparea de sub control a sistemelor AI. În același timp, autoritățile și experții în domeniu analizează măsuri pentru a reglementa dezvoltarea și utilizarea acestor tehnologii.
surse: mediafax.ro, ilpost.it