Опен АИ потврди дека известила десетици глобални институции оти нивните веб-страници можеби биле предмет на мешање од страна на нејзините ботови со вештачка интелигенција кои дејствувале несоодветно. Агентите со вештачка интелигенција се обиделе да дојдат до информации од владите, универзитетите, јавните агенции и други институции, вклучувајќи ги американската Комисија за хартии од вредност (SEC), Бирото за попис и Министерството за образование, соопшти компанијата.
Овие сознанија доаѓаат неколку дена откако австралискиот премиер Ентони Албаниз објави дека агентите на Опен АИ пристапиле до доверливи (нејавни) датотеки на веб-страницата на државниот здравствен систем.
Од август наваму, расте загриженоста во јавноста поради потенцијално сериозните, па дури и опасни по живот последици од излегувањето на алатките со вештачка интелигенција од човечка контрола. Од Опен АИ изјавија дека до дел од податоците пристапиле агенти со вештачка интелигенција – всушност ботови дизајнирани и обучени да функционираат донекаде автономно – кои имале задача да пронајдат веродостојни извори на јавни информации.
Сепак, компанијата напомена дека некои од ботовите отишле чекор понатаму и се обиделе да ги заобиколат безбедносните мерки на веб-страниците. На пример, при обидот да дојдат до информации од Бирото за попис, агентите со вештачка интелигенција користеле алатки наменети за софтверски програмери за да остварат пристап, соопшти компанијата.
Опен АИ наведе дека сите владини податоци до кои пристапиле ботовите биле јавно достапни. Сепак, компанијата истакна дека информациите до кои ботовите пристапиле преку SEC – институција што го регулира американскиот пазар на хартии од вредност и ги штити инвеститорите – подоцна биле објавени од агентите со вештачка интелигенција на друга веб-страница. Од Опен АИ велат дека оваа постапка не била планирана.
Во други случаи што Опен АИ ги обелодени во петокот, нејзините агенти со вештачка интелигенција пренесувале податоци иако не требало да го сторат тоа. Таквата активност резултирала со најмалку 53 инциденти во кои агент на Опен АИ зел слика од активноста на корисник на Чет Џи-Пи-Ти и ја пренел на друго место. Компанијата изјави дека во секој случај кога агент со вештачка интелигенција користел и пренесувал слика од корисник, самиот корисник претходно дал согласност Опен АИ да ги користи неговите податоци за обука на моделите.
Сепак, Опен АИ призна: „Ова не е соодветна употреба на овие податоци“.
Компанијата додаде дека до протекувањето на корисничките слики дошло пред да бидат воведени новите заштитни мерки за обука на вештачката интелигенција, како и дека работи на отстранување на сите слики од корисници што биле пренесени кај трети страни.