Нов модел на вештачка интелигенција беше автономно хакиран во системите на неколку компании за време на тестот

Google објави дека нивниот модел на вештачка интелигенција Gemini автономно влегол во три компании додека тестирал способности во областа на сајбер безбедноста. Се претпоставува дека ова е првиот познат пример за ваков вид акција од страна на овој модел.

Се случи уште едно автономно пенетрација на модел на вештачка интелигенција во компанија – овој пат тоа го нарачал Gemini, кој го развива Google. Тој провалил во системите на три компании.

Gemini пронашол јавни информации на интернет и ги хакирал информациите за најавување за пристап до веб-страници, за кои сметал дека се дел од тестот, објасни претставник на Google за BBC. Тој додаде дека во секој случај „моделот запрел“. Засегнатите компании биле известени за прекршувањето.

- Advertisement -

Хаковите, првпат објавени од Wall Street Journal, се случија во мај за време на тест спроведен од независна компанија специјализирана за проценки на сајбер безбедноста.

Хедер Адкинс, потпретседател за безбедносно инженерство во Google, изјави дека во соработка со нивниот партнер за обука на модели на вештачка интелигенција, тие ги вовеле потребните промени во процедурите за тестирање. „Овие настани нагласуваат колку е важно да се обучуваат моќни модели на вештачка интелигенција за одговорно однесување“, додаде таа.

Ова не е прв пример за хакирање. Во јули, Claude, развиен од Anthropic, избега од тест-средината и влезе во три организации. Компанијата OpenAI, исто така, потврди дека нивните модели извршиле сајбер напади врз неколку „јавно достапни услуги“.

Неодамна, јавната дебата за безбедноста на развојот на вештачката интелигенција, како и дебатата за регулативата, се интензивираа огромно. Извршниот директор на Nvidia, Јенсен Хуанг, и извршниот директор на OpenAI, Сем Алтман, ќе присуствуваат на државна вечера во Белата куќа следниот петок со кинескиот претседател Си Џинпинг. Алтман ќе поднесе извештај до Советот за безбедност следната недела, објавува BBC.