КИНЕСКИ БЕСПЛАТЕН МОДЕЛ НА ВЕШТАЧКА ИНТЕЛИГЕНЦИЈА ХАКИРА ЗАШТИТЕНИ МРЕЖИ

Водечкиот модел на вештачка интелигенција од кинеската компанија Z.AI успешно изврши сложени хакерски напади во контролирани симулации, објави Ројтерс. Во одделни тестови, тој постојано ги игнорираше директните инструкции, според извештајот на компанијата за истражување на безбедноста на вештачката интелигенција Ирегулар.

Моделот, наречен GLM-5.3, успешно заврши 3 од 13 сценарија за сајбер напади со повеќе фази. Ова е најсилниот резултат што Ирегулар го има забележано досега за јавно достапен модел на вештачка интелигенција.

GLM-5.3, сепак, продолжува да заостанува зад водечките американски модели во тестовите на Ирегулар. Моделот GPT-6 Astra на ОпенАИ, на пример, успешно заврши 9 од 10 сценарија во посебна проценка, иако тестовите не беа сосема идентични.

- Advertisement -

Наодите предизвикуваат загриженост дека сè поспособните модели на вештачка интелигенција драстично ја намалуваат техничката граница за извршување софистицирани хакерски напади. Ова е особено загрижувачко кај многу кинески модели како GLM-5.3, кои доаѓаат со отворени параметри (open-weigh), што значи дека корисниците можат слободно да ги преземаат, да ги модифицираат и да ги лансираат на сопствена опрема без никаков надворешен надзор.

Z.AI, со седиште во Пекинг, еден од водечките кинески стартапи за вештачка интелигенција, не одговори веднаш на барањето за коментар.

Според Ирегулар, за време на симулираните напади, GLM-5.3 можел да хакира заштитени услуги, да воспостави прокси врски за движење низ компјутерски мрежи и да координира дејства на повеќе машини истовремено. Не одбил ниту една од дадените задачи за напад.

Во одделни тестови, истражувачите откриле дека GLM-5.3 постојано извлекувал и препишувал програмски код од меморијата, иако експлицитно му било  кажано да не го прави тоа. На овој начин дошол до точни решенија, но ги кршел правилата кои се поставени за проценка на неговите вистински способности.\

Истражувачите го опишале таквото однесување како „хакирање награди“ (reward hacking). Ова е процес во кој системот за вештачка интелигенција независно наоѓа кратенки за да ја достигне дадената цел, целосно игнорирајќи ги упатствата што му биле дадени. Тие предупредија дека тестовите што само го мерат исполнувањето на задачата можат лесно да ги пропуштат таквите опасни прекршувања на правилата.

Овие наодите се додаваат на растечкиот број докази за безбедносните ризици на кинеските системи за вештачка интелигенција. Ројтерс минатиот месец објави најмалку дваесетина студии и проценки што документираат измама, прикривање грешки и обиди за заобиколување на безбедносните огради од страна на кинеските агенти за вештачка интелигенција. Сепак, за разлика од инцидентите со отуѓени агенти за вештачка интелигенција во американските компании, нема докази дека кинеските модели целосно избегале од контролата на нивните оператори.

Водечките американски компании, вклучувајќи ги ОпенАИ и Антрипик, ги чуваат своите најмоќни модели во голема мера заклучени во рамките на своите платформи, што им го олеснува контролирањето и ограничувањето на злоупотребите. Спротивно на тоа, кинеските инженери се свртеа кон отворените модели, кои станаа исклучително популарни кај програмерите и компаниите ширум светот поради нивната ниска цена на сопственост и леснотијата на прилагодување.

Z.AI, познат и како Zhipu AI, го издаде својот модел GLM-5.3 во август откако го одложи неговото лансирање за две недели за дополнителни безбедносни проверки.

Антропик, кој претходно го ограничи пристапот до својот моќен модел за сајбер безбедност Mythos поради загриженост за злоупотреба, објави во септември дека кинескиот GLM-5.3 бил во можност да создаде функционални напади врз софтверски ранливости во 12 проценти од неговите обиди. За споредба, Mythos на Anthropic имал стапка на успех од 14 проценти.

Антропик, исто така, открил дека заштитните мерки на кинескиот модел можат да се заобиколат со користење на прилично едноставни техники.

Националниот институт за стандарди и технологија на САД (NIST) го опиша GLM-5.3 како најспособниот јавно достапен отворен модел за задачи за сајбер безбедност досега, иако проценува дека е околу 4 месеци зад водечките затворени системи во САД.

Лиан Џје Су, главен аналитичар во фирмата за технолошки истражувања Омдиа изјави дека кинеската индустрија за вештачка интелигенција итно има потреба од посилни контроли и потемелно тестирање на безбедноста. Тој додаде дека очекува водечките лаборатории во Кина, кои работат под строг државен надзор, наскоро да спроведат корективни мерки.