Вештачкара интелигенција развиена во Кина научила да лаже, да ги заобиколи ограничувањата и да го прикрие неуспехот, покажувајќи ги особините во автономната вештачка интелигенција што предизвикаа глобална тревога за американските модели, велат истражувачки документи и експерти.
Во еден случај оваа година, агентите со модели од кинеските Алибаба, Дипсик и Муншот лажеа за своите способности во обид да добијат симулиран бизнис тендер, а потоа го удвоија своето измамничко однесување кога им беше кажано да се обидат повторно. Во друг случај, агентите – програми што користат модели на вештачка интелигенција и компјутерски алатки за да преземат сложени задачи со мала или никаква човечка интервенција – го прикриваа неуспехот да се заврши задачата во тест средина со симулирање на резултати и измислување датотеки.
Ројтерс испита повеќе од 200 документи, почнувајќи од универзитетски истражувачки трудови до технички извештаи, и идентификуваше најмалку 20 студии или евалуации од 2025 година, опишувајќи случаи каде агентите покажаа однесување како што се измама, репликација и предизвикување граници што експертите за вештачка интелигенција ги опишаа како градежни блокови за пробив и кои би можеле да станат потешки за контрола од страна на луѓето како што напредуваат системите.
Прегледот, кој исто така вклучуваше интервјуа со десетина експерти и луѓе запознаени со кинеската индустрија за вештачка интелигенција, не пронајде докази дека агентите напојувани од Кина независно избегале на поширокиот интернет или избегнале исклучување.
„Овие резултати даваат докази дека се присутни состојките потребни за неконтролирано бегство“, рече Колин Ши-Блимаер, истражувач во Центарот за безбедност и нови технологии на Универзитетот Џорџтаун.
„Предумно е ова да се сфати како предупредување“, рече тој, повторувајќи ги коментарите на четири други експерти за вештачка интелигенција кои ги разгледаа случаите.
Повеќето од случаите се случиле во контролирани експерименти, многу од нив намерно дизајнирани да ги откријат потенцијалните неуспеси.
Не сите вклучени агенти биле развиени или управувани од кинески програмери или компании за вештачка интелигенција – иако многу биле – но тие користеле кинески системи за вештачка интелигенција за да ги напојуваат.
„Ова се истите предупредувачки знаци што ги гледаат американските лаборатории, во помалку способни системи“, рече Алекс Мален, истражувач во Redwood Research, непрофитна организација која ги проучува ризиците во напредните системи за вештачка интелигенција.
Тој изјави дека кинеските примери не се особено опасни при сегашните нивоа на способност, но како што агентите стануваат поспособни, нивното несоодветно однесување станува пософистицирано, а со тоа и потешко за справување од страна на луѓето.
Алибаба, Дипсик и Муншот не одговорија на барањата на Ројтерс за коментар. Тие изјавија дека редовно ги тестираат системите и ги ажурираат заштитните механизми. З.аи соопшти дека, по инцидентот што доведе до преиспитување на безбедноста, ја поздравуваат надворешната проверка со цел решавање на какви било проблеми.
Сепак, за разлика од САД, кинеските компании за вештачка интелигенција не биле изложени на исто ниво на јавен надзор, ниту пак се соочиле со истите повици од вработени кои укажуваат на неправилности или од високи раководители кои бараат забавување на трката во развојот на вештачката интелигенција.
Некои од предупредувачките знаци во случаите со агенти базирани на кинеска технологија – иако во контролирани средини – се појавија пред јавно обелоденетите инциденти во кои ботови со вештачка интелигенција од САД извршија упади на интернет.
„Не знаеме дали во Кина имало инциденти со вештачка интелигенција слични на оние што ги видовме кај Опен АИ и Хагинг Фејс. Можно е таквите инциденти да не се јавно пријавени“, изјави Скот Сингер, ко-директор на Иницијативата за вештачка интелигенција во Кина при Фондацијата „Карнеги“ за меѓународен мир, која добива одредени средства од американската влада.