СИНГУЛАРИТЕТОТ ПРИСТИГНА, ТВРДИ СЕМ АЛТМАН

Сингуларитетот пристигна, тврди извршниот директор на ОпенАИ, Сем Алтман.

Тој го објави ова радикално поместување на парадигмата минатиот викенд како гостин во подкастот „Relentless“, каде што изјави: „Сега, да речеме, сме во сингуларитетот“.

Неговите тврдења доаѓаат во време кога се поставуваат прашања за можни скриени мотиви за ваквите изјави, пишува Futurism.

- Advertisement -

Иако дефинициите варираат, сингуларитетот генерално се опишува како точка во која способностите на интелигентните машини би можеле да почнат да се развиваат со брзина што луѓето повеќе не можат да ја контролираат, што потенцијално ќе доведе до создавање на моќна суперинтелигенција. Дали ова навистина се случува токму сега, останува отворено прашање.

Алтман има јасен интерес да ја промовира идејата, што го прави веќе долго време. Во блог пост на тема „Нежниот сингуларитет“, објавен пред една година, тој тврдеше дека човештвото го поминало хоризонтот на настани и издигнувањето и дека сме блиску до создавање суперинтелигенција.

– Сега сме во точката за која порано неформално разговаравме за време на ручеците. Цел живот го чекав ова и мислам дека ќе биде неверојатно, исклучително позитивно и одлично за светот – рече Алтман во подкастот.

Коментарите на Алтман доаѓаат само неколку дена откако ОпенАИ објави дека неколку од неговите модели на вештачка интелигенција – вклучувајќи го GPT-5.6 Sol и мистериозниот „уште поспособен модел во предпродукција“ – избегале од истражувачката средина. Моделите добија пристап до Интернет хакираа база на податоци за да најдат одговори за тестови за сајбер безбедност.

Hugging Face, платформата за вештачка интелигенција со отворен код, чија база на податоци беше нападната, потврди дека биле цел на нападот: „ Нападот го водеше рамка на автономни агенти кои извршија илјадници индивидуални акции“.

Овој настан се толкува како сериозно предупредување за моќта на системот на вештачка интелигенција. Многумина го нарекоа „Момент на Митос“ за ОпенАИ, осврнувајќи се на ситуацијата од пред неколку месеци кога конкурентската компанија Антропик беше во центарот на вниманието бидејќи нивниот модел Митос наводно на сличен начин избегал од изолација.

Споредбата не е нужно позитивна, бидејќи Антопик беше силно критикуван дека го користи инцидентот за маркетинг базиран на страв. Некои шпекулираат дека ОпенАИ го користи и овој настан како сличен пи-ар маневар.

Ваквите инциденти ги поддржуваат тврдењата на Алтман дека живееме во време кога напредокот на вештачката интелигенција наскоро може да избега од човечка контрола. Стравувањата се дека ако моделите се навистина толку моќни како што тврдат нивните креатори, тогаш тие лесно можат да ги заобиколат мерките за човечка сајбер безбедност.

На ова инсистира и Антопик кој минатиот месец повика на глобална „пауза“ во развојот на вештачката интелигенција. Компанијата тврди дека технологијата е на пат кон рекурзивно самоподобрување, односно способност на моделите континуирано да се подобруваат.

Алтман, од своја страна, тврди дека не шири страв. Во подкастот, тој упати и суптилна критика кон Антопик.

– Ги сметам некои од визиите на другите компании за прилично застрашувачки. Ќе се погрижам да се спротивставиме на тоа и тоа да не се случи – рече креаторот на Чат ГПТ.