Британскиот регулатор за медиуми, Офком, отвори истрага против платформата Икс на Илон Маск поради користењето на вештачка интелигенција Грок за манипулирање со фотографии на жени и деца со цел да им се „отстрани“ облеката, пренесува Гардијан.
Офком реагираше откако се создаде јавно незадоволство поради големиот број сексуализирани слики кои се појавија на платформата, а биле создадени со помош на Грок кој е интегриран во платформата Икс. Регулаторот ја истражува компанијата според Законот за онлајн безбедност кој предвидува низа казни за прекршувања вклучувајќи и можност за забрана на апликации и веб-страници во Обединетото Кралство за најтешки злоупотреби. Офком соопшти дека истрагата ќе ја води како прашање од највисок приоритет, се вели во текстот на Гардијан.
Од Офком изјавија дека извештаите за користење на Грок за создавање и споделување нелегални интимни слики без согласност и сексуално злоупотребување на деца на Икс се длабоко загрижувачки. Платформите мора да ги заштитат луѓето во Обединетото Кралство од незаконска содржина, и доколку постои сомнеж дека компаниите не ги исполнуваат своите обврски, регулаторот мора да истражи.
Компаниите се обврзани да имаат системи за спречување на материјали кои имплицираат сексуална злоупотреба на деца, и да ги отстрануваат брзо доколку се појават на платформите.
Офком соопшти дека итно стапил во контакт со Икс уште минатиот понеделник во врска со овие загрижености. Сепак, по одговорот на Икс и чекорите што компанијата тврди дека ги презела, Офком отвори истрага и случајот ќе се третира како итен.
Истрагата се фокусира на тоа дали Икс го прекршил законот со тоа што не ја проценил опасноста корисниците да гледаат незаконска содржина, не презел соодветни мерки за спречување пристап до незаконски материјали, не ги отстранувал брзо нелегалните материјали и не ги заштитил корисниците нарушување на приватноста.
Грок е интегриран во Икс, а неодамнешното ажурирање на алатката овозможи корисниците да ги „соблекуваат“ фотографиите од облечени жени и деца, така што тие изгледаат како да носат бикини и се прикажани во сексуално сугестивни пози.
Офком има различни можности за казнување според законот. Од барање конкретни чекори за усогласување со правилата, до изрекување казни во висина до 10 отсто од глобалниот приход на компанијата, а во екстремни случаи и блокирање на апликација или веб-страница преку судска одлука. Владата во петокот соопшти дека ќе го поддржи Офком доколку реши да воведе ефективна забрана на платформата Икс.
Регулаторот изјави дека ќе собира докази за да утврди дали навистина дошло до прекршување на законот. Ако заклучи дека има прекршок тоа ќе биде објавено во привремена одлука пред да се донесе конечна пресуда. Колку долго ќе трае истрагата не се знае.
Пратеничката од Лабуристичката партија, Џес Асато, која води кампања против таканареченото дигитално „соблекување“ изјави дека злоупотребата сè уште продолжила кон неа дури и во понеделник наутро. Таа рече дека експлицитни и понижувачки слики се создаваат со Грок која може да се користи и одделно од Икс, како и со други апликации за вештачка интелигенција и потоа се објавуваат на платформата, бидејќи таа јавно зборувала против платформата на Маск.
Таа изјави дека засега се работи за бикини-слики креирани со Грок, но и дека некој направил слика од неа како традиционална домаќинка со огромен бремен стомак со порака дека тоа е нејзината улога и дека треба да биде машина за раѓање деца, што ја вознемирило дури повеќе од сликите во бикини.
Таа додаде дека илјадници луѓе ѝ испратиле навредливи пораки и обработени слики поради нејзината кампања за забрана на ваквата технологија, и нагласи дека самите корисници ѝ кажуваат дека сè уште можат да создаваат голи слики од жени и дека не мора ни да плаќаат за тоа, бидејќи многу луѓе можат бесплатно да го прават тоа преку апликацијата Grok.