Dezvoltatorul chinez de inteligență artificială Moonshot a anunțat că desfășoară o analiză internă în urma unui incident în care două dintre modelele sale populare, denumite Kimi, au oferit informații legate de fabricarea armelor biologice.
Potrivit unui raport publicat de BBC, cercetătorii au reușit să convingă aceste modele AI să furnizeze detalii despre acest subiect sensibil. Incidentul a atras atenția asupra capacităților și limitărilor sistemelor de inteligență artificială dezvoltate de companie.
Moonshot a precizat că investighează circumstanțele în care modelele Kimi au răspuns astfel solicitărilor și analizează măsurile necesare pentru a preveni situații similare în viitor. Compania nu a oferit alte detalii despre natura exactă a informațiilor furnizate sau despre modul în care acestea au fost obținute.
Dezvoltatorul chinez de AI a subliniat importanța responsabilității în utilizarea tehnologiilor avansate și a menționat că analiza internă are ca scop identificarea eventualelor vulnerabilități în sistemele sale.
Incidentul survine într-un context global în care reglementările privind inteligența artificială și utilizarea acesteia în domenii sensibile sunt intens dezbătute. Moonshot face parte dintr-un număr tot mai mare de companii care dezvoltă modele AI cu capacități avansate, iar acest caz evidențiază provocările legate de controlul și securitatea acestor tehnologii.
Până în prezent, compania nu a comunicat despre eventuale modificări ale politicilor sale sau despre implementarea unor noi protocoale de securitate ca urmare a acestui incident. Ancheta internă este în desfășurare, iar Moonshot a anunțat că va furniza informații suplimentare după finalizarea acesteia.
Reacțiile comunității științifice și ale experților în securitate cibernetică nu au fost încă făcute publice, iar impactul pe termen lung al acestui incident asupra industriei AI rămâne de urmărit.
