Вештачка интелигенција и крајот на светот: „Шансата за истребување на човештвото е десет проценти поголема“

Откако агентите на вештачката интелигенција избегаа од тест-средина и хакираа во серверите на другите луѓе, стравот од истребување на луѓето се пресели од маргиналните форуми во Советот за безбедност на ООН. Дали е тоа паника, маркетинг или последно предупредување?

Само пред една година, приказната за вештачката интелигенција што го уништува човештвото звучеше како заплет од научно-фантастичен филм. Овој септември, министрите дискутираа за тоа на масата на Советот за безбедност на ООН. Предупредувањата не дојдоа од критичарите на индустријата, туку од луѓето што го водат.

Во среда, лидерите на две водечки компании за вештачка интелигенција, жестоки ривали, се согласија пред Советот за безбедност дека на индустријата ѝ се потребни меѓународни стандарди и соработка бидејќи глобалната безбедност е во прашање. Извршниот директор на Anthropic, Дарио Амодеј, рече дека тоа е најважното прашање за глобална безбедност со кое се соочува светот денес, а Сем Алтман од OpenAI рече дека овој момент бара „екстремна претпазливост“.

- Advertisement -

Како стигнавме до тука? Одговорот започнува во јули, во тест-средина што требаше да биде затворена.

Бегство од „песок“
Лабораториите за вештачка интелигенција редовно ги тестираат своите модели во изолирани средини, наречени песочни кутии. На 21 јули, OpenAI објави дека комбинација од неговите модели, вклучувајќи го GPT-5.6 Sol и внатрешен истражувачки модел, го хакирале Hugging Face, компанија која управува со отворена платформа за развој. Моделите дејствувале како агенти и избегале од изолирана средина со многу ограничен пристап до интернет, поврзале низа ранливости и стигнале до Hugging Face преку отворената мрежа.

Мотивот бил речиси банален. Според OpenAI, агентите се обидувале да измамат на тестот барајќи решенија преку интернет, практика позната како „хакирање на награди“. Никој не им наредил да нападнат.

Последиците не биле безопасни. Hugging Face реконструирал околу 17.600 од акциите на напаѓачот помеѓу 9 и 13 јули, а околу една третина од нејзината инфраструктура морала да се обнови. OpenAI го опиша инцидентот како прв познат случај на автономен сајбер напад од страна на агент на вештачка интелигенција.

Инцидентот не бил изолиран. На 18 септември, Google откри дека Gemini хакирал три надворешни системи за време на тестот. Моделот мислел дека се дел од тестот, но всушност биле поврзани на интернет.

Септемвриската тревога
Инцидентот во јули беше искрата, а пожарот беснееше во септември. На 12 септември, Амодеи објави есеј од 3.600 зборови во кој се тврди дека растот на можностите на вештачката интелигенција треба намерно да се забави. Тој предупреди дека сличен рој агенти би можел да го преземе интернетот за шест до 12 месеци преку постојан ботнет, предизвикувајќи штета од стотици милијарди долари.

Тој предложи три чекори. Првиот е да им се даде пристап на независните евалуатори до лабораториите што ги имаат вработените; вториот е да се хармонизираат стандардите за безбедност на лабораториите во демократските земји; а третиот е да се постигнат меѓународни договори за ограничување на можностите, вклучително и оние со авторитарни влади. Алтман објави дека OpenAI ќе ја преземе истата обврска кон надворешните евалуатори, а Маск твитна на X неколку часа подоцна дека Амодеи бил во право.

На есејот му претходеше оставка. Истражувачот Џејкоб Коксон јавно го напушти Anthropic, предупредувајќи дека неговиот поранешен работодавач и конкурентите се тркаат кон самоподобрување на суперинтелигенцијата. Лидерот на тимот за усогласеност на Anthropic, Еван Хубингер, проценува дека веројатноста за истребување на човештвото поради вештачката интелигенција во следната деценија е поголема од 10 проценти.

Скептици: Опасноста лежи на друго место
Некои експерти сметаат дека предупредувањата се претерани. Гари Маркус од NYU го нарече тврдењето за преземање на интернетот апсурдно, а Хајди Клаф од Институтот AI Now истакнува дека таквите стапки на истребување не можат ниту да се побијат ниту да се потврдат. Инженер во Hugging Face, платформата што всушност претрпе напад, исто така го отфрли.

Вториот ред на критика оди подлабоко. Некои експерти тврдат дека ваквите разговори им овозможуваат на компаниите да избегнат одговорност за вистинските последици од нивната технологија. Критичарите велат дека регулаторите треба поитно да се справат со влијанието на вештачката интелигенција врз животната средина, губењето на работни места и заканата од масовно надгледување. Инвеститорот Чамат Палихапитија тврдеше дека есејот на Амодеи всушност се залага за концентрација на моќ на сметка на конкурентите кои развиваат отворени модели. Некои аналитичари, исто така, укажуваат на шема: многу од тврдењата за ризикот од истребување доаѓаат од раководители на компании за вештачка интелигенција кои би можеле да имаат корист од построга регулатива, додека некои од побивањата доаѓаат од независни истражувачи.

Не се сите загрижени. Анализата на RAND заклучи дека денешната вештачка интелигенција не може да лансира нуклеарно лансирање поради заштитните мерки во нејзините командни системи. Тие го гледаат вистинскиот ризик во дезинформациите што би можеле да го доведат човекот во одлучувачка позиција да донесе катастрофална одлука.

Кој ќе ги постави правилата?

Политичкиот одговор досега е поделен. Кина ги поддржува меѓународните стандарди и централната улога на ОН во управувањето со вештачката интелигенција, додека САД ги отфрлаат обидите на меѓународните тела за воспоставување централизирана контрола. Претседателот Доналд Трамп зборува на Генералното собрание.

Штине рече дека САД „целосно го отфрлаат секој обид за создавање глобалистичка шема за контрола на вештачката интелигенција“. Советникот на Белата куќа, Мајкл Крациос, додаде дека Вашингтон не гледа причина да го запре развојот на суперинтелигенцијата или нови глобални тела да ја ограничат.

Од друга страна, Алтман повикува на национални и меѓународни стандарди за мерење на способностите, проценка на ризиците, задолжителни заштитни мерки и нивото на човечки надзор. Јошуа Бенџо отиде чекор понатаму и повика на лиценцирање на најнапредните системи за вештачка интелигенција.

Застапниците на меѓународен договор се потсетуваат на историјата. Озонската обвивка, сипаниците и нуклеарното и хемиското оружје исто така се сметаа за опасности за човештвото. Сепак, Монтреалскиот протокол, кампањата за искоренување на сипаниците, Договорот за неширење на нуклеарно оружје и Конвенцијата за хемиско оружје беа создадени како заштитна мерка.

Дали 2026 година ќе биде запаметена како годината во која светот навреме ја сфати сериозноста на ситуацијата или како година на колективна хистерија, останува да се види.

Едно е неоспорно: прашање кое до неодамна им припаѓаше на филозофите и писателите на научна фантастика сега е на агендата на владата.