Опен АИ нема да го објави својот нов модел на вештачка интелигенција, ГПТ 6.1 Астра, поради загриженост за безбедноста, потврдија во вторникот од компанијата што го создаде Чет ГПТ. Системот со вештачка интелигенција, кој самостојно извршува задачи како пребарување на интернет и користење апликации, не ги исполни целосно стандардите на компанијата, изјави Саачи Џаин, раководител на одделот за безбедносни системи во Опен АИ.
Во вторникот, Опен АИ исто така објави информации за инциденти што се случиле во јуни, но не биле јавно обелоденети до минатата недела, при што нејзините модели неовластено пристапиле до веб-страници и системи на австралиската влада. Тие инциденти, како и слични прекршувања од страна на модели развиени од големи компании за вештачка интелигенција, во последните недели ја интензивираа дебатата за ризиците што ги носи оваа технологија.
Водечките луѓе во областа на вештачката интелигенција, вклучувајќи ги Сем Алтман од Опен АИ и Дарио Амодеи од Антропик, ја повикаа индустријата да го забави темпото на развој поради загриженоста за ризиците поврзани со оваа технологија.
Одлуката на Опен АИ, за која првпат извести „Бол Стрит Џурнал“, претставува редок случај кога голем развивач на вештачка интелигенција повлекува ново издание поради безбедносни причини.
„Моделот не ги задоволил критериумите во однос на придржувањето кон опсегот и овластувањата, како и начинот на кој му соопштува на корисникот каква работа завршил“, рече Џаин.
„Сакаме да се осигураме дека развојот на нашите модели е безбеден, без разлика дали тоа се случува во рамките на компанијата или кога ги пуштаме во употреба кај корисниците. Но, кога ги нудиме на корисниците, поставуваме исклучително високи стандарди во однос на безбедноста и усогласеноста“, додаде таа.
Водечкиот модел со автономни способности, беше објавен во септември и е специјализиран за сложено расудување и самостојно извршување задачи. Од Опен АИ изјавија дека тој е резултат на години истражување и големи вложувања.
Опен АИ треба денеска да ја одржи својата годишна конференција за развивачи, во Сан Франциско, каде што се очекува да бидат објавени неколку новости. Не е јасно дали меѓу нив ќе се најде и нова верзија на Astra.
Безбедносните контроли на компанијата се најдоа под силен надзор по неколку инциденти од висок профил поврзани со нејзината технологија. Минатата недела, австралискиот премиер Ентони Албанезе објави дека агент на Опен АИ хакирал владини веб-страници и системи во јуни, што експертите го оценија како прв познат случај од ваков вид во светот. Албанезе го критикуваше Опен АИ за тоа што ја известил австралиската влада преку генеричка е-адреса, наместо да воспостави директен контакт со службениците. Опен АИ во соопштението во вторник изјави дека жали за инцидентот и дека „требало подобро да го реши нашиот одговор“.
Опен АИ додаде дека ќе развие практични пристапи за тоа како програмерите и владите ги идентификуваат и откриваат идните инциденти со вештачка интелигенција. Компанијата ќе финансира мерки за сајбер безбедност, ќе понуди наменска поддршка на засегнатите агенции и ќе формира работна група за управување со ризиците од сè понапредните агенти за вештачка интелигенција.