Предупредување од првиот човек на водечка компанија во индустријата

Извршниот директор на компанијата „Антропик“ (Anthropic), Дарио Амодеи, денеска во Њујорк изјави дека индустријата за вештачка интелигенција (ВИ) треба да го забави развојот на оваа технологија за да овозможи безбедносните мерки да го пратат забрзаниот раст на ризиците.

Амодеи предупреди дека без такво забавување, во рок од шест до 12 месеци автономни роеви на ВИ-модели би можеле да станат способни да преземат контрола врз целиот интернет и да предизвикаат огромни штети.

Истовремено, тој на својата веб-страница објави предлог-план за засилен надзор, истакнувајќи дека дел од мерките „Антропик“ веќе ги спроведува самостојно со овозможување постојан пристап за надворешни евалуатори. За останатите чекори, како што оцени тој, потребна е координација меѓу целата индустрија и владите ширум светот, вклучително и авторитарните режими.

- Advertisement -

– Верувам дека ако забавувањето ни купи барем уште една или две години пред моделите да достигнат критично ниво на способности и ако тоа време го искористиме за подобрување на усогласеноста, би можеле значително да го намалиме ризикот нешто сериозно да тргне наопаку – рече Амодеи.

Неговото предупредување доаѓа во време кога дебатата за безбедноста на вештачката интелигенција дополнително се заострува.

„Антропик“ пред неколку дена соопшти дека блокирал обиди за користење на неговите модели за сајбернапади и истражувања што можеле да доведат до развој на биолошко оружје. Во јули и „ОпенАИ“ (OpenAI) ја потресе индустријата со преседански сајбер-инцидент во кој негов систем самостојно хакирал друга компанија за вештачка интелигенција.

Дополнителен притисок врз компаниите создаваат и заминувањата на нивни истражувачи. Неколку истражувачи дадоа оставки поради загриженост дека компаниите не постапуваат одговорно, додека поранешниот вработен Џо Бентон напиша дека го напуштил тимот за безбедност за да бара одговорност, со предупредување дека човештвото можеби нема да ја преживее оваа транзиција.

Истражувачот Џејкоб Коксон, кој исто така даде отказ во „Антропик“, изјави дека брзиот развој го доведува човештвото во опасност, а водечкиот експерт за усогласеност во компанијата, Еван Хубингер, истакна дека Коксон е во право.

„Искрено веруваме дека вештачката интелигенција би можела да ги убие сите луѓе. Сметам дека веројатноста за тоа е поголема од 10 проценти во следната деценија“, изјави Хубингер.

Како клучна мерка, Амодеи предлага водечките компании да им овозможат постојан пристап на надворешни евалуатори.

Посложениот дел од планот се однесува на можни исклучоци од страна на американската влада со цел компаниите заеднички да постават безбедносни стандарди без да ги прекршат антимонополските прописи, како и на глобална координација меѓу демократските и авторитарните влади за да се спречи сценариото во кое конкурентите од други земји го забрзуваат развојот додека американските компании свесно го забавуваат темпото.