„Опен АИ“ вработува човек кој ќе го брани човештвото од ВИ

Топ Вести - Слушај сега

Компанијата OpenAI, креаторот на популарниот ChatGPT, објави оглас за „лидер на подготвеност“, чија задача ќе биде да го брани човештвото од најлошите можни сценарија поврзани со вештачката интелигенција. За таа позиција е резервирана годишна плата од 555.000 долари.

- Advertisement -

Новиот раководител на подготвеност на OpenAI ќе биде директно одговорен за одбрана од ризиците што сè помоќната вештачка интелигенција ги претставува за менталното здравје на луѓето, сајбер безбедноста и биолошкото оружје. Ова е само почеток, бидејќи успешниот кандидат ќе мора да се справи и со можноста вештачката интелигенција да почне сама да се обучува, меѓу стравувањата на некои експерти дека би можела да „се сврти против нас“, пишува The Guardian.

– Ова ќе биде стресна работа и веднаш ќе бидете фрлени во оган. Тоа е „критична улога“ што треба да „му помогне на светот“. Работата е толку тешка што некои претходни менаџери останаа на слични позиции само кратко време – рече Сем Алтман, извршен директор на компанијата.

Огласот за работа доаѓа во време кога предупредувањата за опасностите од напредната технологија доаѓаат од самата индустрија.

Мустафа Сулејман, извршен директор на Microsoft AI, изјави дека „искрено мислам дека ако не сте барем малку исплашени во овој момент, тогаш не обрнувате внимание“.

Демис Хасабис, добитник на Нобелова награда и коосновач на Google DeepMind, размислува слично. Тој  овој месец предупреди на ризикот од вештачката интелигенција „да излезе од контрола на начин што му штети на човештвото“.

И покрај растечките опасности, регулирањето на вештачката интелигенција на национално или меѓународно ниво е речиси непостоечко, делумно поради отпорот на администрацијата на Доналд Трамп.

Јошуа Бенџо, еден од „кумовите на вештачката интелигенција“, неодамна ја опиша ситуацијата живописно: „Сендвичот има повеќе регулација од вештачката интелигенција“. Во пракса, ова значи дека технолошките компании претежно се регулираат сами.

Неодамнешните настани покажуваат дека заканите не се само теоретски. Минатиот месец, конкурентската компанија Anthropic ги објави првите сајбер напади во кои вештачката интелигенција работеше речиси автономно за да хакира и да пристапи до внатрешни податоци на цели.

OpenAI овој месец призна дека нивниот најнов модел е речиси три пати подобар во хакирањето отколку што беше пред три месеци, додавајќи дека очекуваат тој тренд да продолжи.

Во исто време, компанијата се брани од тужби со трагични исходи.