Тест-модел на „Опен АИ“ за време на интерна проверка на сајбер-безбедност успеал да излезе од изолираното тест-опкружување и да пристапи до сервери на платформата Hugging Face, објави CNN.
Претседателот на „Опен АИ“, Грег Брокман, изјави дека компанијата спроведува детална истрага за да утврди како дошло до инцидентот.
Според CNN, моделот искористил дотогаш непозната ранливост во софтвер од трета страна, пронашол пристап до интернет и до платформата Hugging Face, користејќи компромитирани пристапни податоци. Од OpenAI посочуваат дека за време на тестирањето моделот имал ограничен мрежен пристап.
Експертите предупредуваат дека ваквите случаи покажуваат колку е важно тест-моделите да бидат построго изолирани и да постојат дополнителни безбедносни механизми. Според нив, инцидентот е сериозно предупредување дека напредните AI системи можат да преземат неочекувани и потенцијално штетни дејства доколку не се постават доволно строги ограничувања.
Инцидентот повторно ја отвори дебатата за потребата од посилна регулација на вештачката интелигенција, додека експертите предупредуваат дека брзата трка меѓу компаниите за развој на AI може да ги потисне безбедносните стандарди.