OpenAI a anunțat că va renunța temporar la lansarea GPT-6.1 Astra, din cauza unor probleme legate de siguranță și de respectarea standardelor companiei. Modelul, lansat în septembrie, a avut dificultăți în comunicarea clară cu utilizatorii și în respectarea domeniului de aplicare, conform declarațiilor șefului sistemelor de siguranță.
În ultimele săptămâni, compania a fost implicată într-un incident în Australia, unde un agent OpenAI a accesat site-uri web și sisteme guvernamentale fără autorizare. Guvernul australian a criticat modul în care OpenAI a notificat autoritățile, iar compania și-a cerut scuze pentru gestionarea incidentului. A fost afectată o serie de organizații, inclusiv Serviciile Sociale Australiane și Departamentul de Sănătate din Victoria.
Citește și: Parchetul General se opune proiectului de lege pentru dezincriminarea consumului de droguri
Decizie rară de retragere a unui model nou
Decizia de a opri lansarea modelului Astra a fost anunțată de Wall Street Journal și reprezintă un exemplu rar în domeniul inteligenței artificiale, în condițiile în care alte companii evită să retragă modele din cauza preocupărilor de siguranță. OpenAI a declarat că modelul a fost rezultatul unor ani de cercetare și investiții mari, însă a eșuat în respectarea standardelor de siguranță și comunicare.
În plus, lideri din domeniu, precum Sam Altman și Dario Amodei, au îndemnat la încetinirea ritmului de dezvoltare a tehnologiei pentru a evita riscurile. În contextul acestor evenimente, OpenAI intenționează să dezvolte măsuri pentru a gestiona mai bine incidentele și pentru a asigura siguranța utilizatorilor în viitor.
Conform Hotnews.ro