Sursă: Monitoruldegalati.ro
OpenAI a decis să suspende temporar activitățile legate de dezvoltarea modelului Astra, după ce testele recente au arătat progrese semnificative în programarea autonomă și securitatea cibernetică a acestuia.
Citește și: Cercetători din Galați au reprodus în laborator crevetele asiatic din Dunăre
Compania afirmă că, în prezent, nu poate exclude posibilitatea ca Astra să fi atins cel mai ridicat nivel de risc cibernetic prevăzut în cadrul propriului sistem de evaluare. Decizia a fost luată pentru a evalua în detaliu potențialele pericole generate de capabilitățile modelului.
Ce înseamnă suspendarea Astra pentru industria AI?
Această decizie este neobișnuită pentru sectorul inteligenței artificiale, deoarece în loc să accelereze dezvoltarea unui model cu capacități tot mai avansate, OpenAI a ales să oprească activitățile care nu îndeplinesc noile cerințe de securitate și să implementeze măsuri suplimentare de siguranță.
- Testele recente au indicat progrese importante în programarea autonomă a modelului Astra.
- Compania nu afirmă că Astra a demonstrat definitiv toate capacitățile de risc maxim.
- Decizia a fost luată pentru a discuta cu cercetători, autorități și organizații specializate în siguranța AI.
Ce riscuri pot avea modelele AI avansate?
În cadrul sistemului de evaluare al OpenAI, nivelul „Critical” pentru securitatea cibernetică descrie un model capabil să descopere și să dezvolte autonom exploituri zero-day pentru sisteme protejate sau să execute strategii complete de atac, pornind de la un obiectiv general. Deși Astra nu a demonstrat definitiv aceste capacități, rezultatele preliminare au fost suficiente pentru reevaluarea utilizării sale.
OpenAI subliniază că această reevaluare este necesară pentru a evita riscuri majore și pentru a asigura siguranța utilizării modelelor AI în condiții reale. În concluzie, compania consideră că discuțiile cu experți și autorități sunt esențiale pentru a gestiona evoluția rapidă a tehnologiei.