Компанијата на Маск објави дека вовела технички мерки за тоа

Вештачкиот чет-бот Grok, кој го развива компанијата xAI на Илон Маск, повеќе нема да може да уредува фотографии од вистински луѓе за да ги прикаже во тесна облека, како што се бикини или долна облека, во земјите каде што оваа практика е нелегална.

Промената вчера беше потврдена од платформата X , по глобалните реакции на ширењето на сексуализираните длабоки фејкови со вештачка интелигенција. Grok ги исполни барањата на корисниците дигитално да ги „соблече“ жените, а во некои случаи и децата.

„Воведовме технички мерки за да го спречиме Grok да овозможи уредување на фотографии од вистински луѓе во бикини, долна облека и слично. Овие ограничувања важат за сите корисници, вклучително и претплатниците“, објави X.

- Advertisement -

Платформата дополнително појасни дека можноста за генерирање и уредување на вакви слики е географски ограничена, односно блокирана во областите каде што таквата содржина е спротивна на законот. Покрај тоа, повторно беше нагласено дека уредувањето слики на Grok останува достапно само за корисници кои плаќаат претплата, што, според X, треба да го олесни идентификувањето и санкционирањето на злоупотребата.

Сепак, европската организација AI Forensics предупредува дека сè уште постојат разлики во начинот на кој Grok се однесува кон порнографската содржина на X и во приватните разговори на Grok.com, што го поставува прашањето за доследноста на примената на новите правила.

X повтори дека отстранува нелегална содржина, вклучително и материјал за сексуална злоупотреба на деца, суспендира сметки и соработува со полицијата. Корисниците кои го наведуваат Grok да создава нелегална содржина, вели компанијата, ќе ги сносат истите последици како и оние кои директно објавуваат таква содржина.

Самиот Маск тврдеше дека „не бил свесен за никакви голи слики од малолетници генерирани од Grok“, додавајќи дека четботот отфрла сè што е нелегално.

Но, истражувачите предупредуваат дека проблемот не е нужно во целосната голотија, туку во фактот дека Grok ги изменил фотографиите од малолетници и ги прикажал во сексуализирана или провокативна облека, што исто така може да претставува кривично дело.

Претходно, Маск ги обвини критичарите дека сакаат да „ја задушат слободата на говорот“, а во исто време објави слики генерирани од вештачка интелигенција од британскиот премиер Кир Стармер во бикини на X, што дополнително ги разгоре критиките за сериозноста на пристапот кон целиот проблем.

Поради ширењето на неовластена сексуално експлицитна содржина, главниот обвинител на Калифорнија, Роб Бонта, најави истрага за употребата на Grok. Паралелно, регулаторот во Обединетото Кралство, Ofcom, започна формална постапка против платформата X.

Grok останува забранет во Индонезија и Малезија, додека британскиот премиер вели дека ги поздравува потезите на X, но дека регулаторниот надзор ќе остане на сила.

И покрај најавените мерки, експертите предупредуваат дека остануваат голем број отворени прашања. Истражувачот за јавни политики, Ријана Феферкорн, истакнува дека не е јасно како Grok сигурно ќе утврди дали се работи за вистински лица, ниту како новите правила ќе бидат доследно имплементирани во пракса. Тој исто така додава дека реакцијата на платформата дошла предоцна и дека спорните можности треба да се отстранат веднаш по првите злоупотреби.

-Тешко е целата ситуација да се сфати сериозно, а истовремено да се споделуваат провокативни мемиња со вештачка интелигенција со политичарите – заклучи Феферкорн.