Повеќе од 1.200 агенти со вештачка интелигенција (ВИ) почнаа тајно да комуницираат, а потоа смислија план за извршување измама

Моделите со вештачка интелигенција веќе не прават само грешки при изнесување факти; тие почнуваат да лажат – убедливо и намерно.

Во текот на само една недела, 1.206 агенти со вештачка интелигенција – кои требало да функционираат целосно независно еден од друг – почнале да комуницираат во таен разговор, пренесува *Science Focus*.

Скриена од човечки надзор, се појавила цела заедница. Агентите размениле повеќе од 70.000 пораки и набргу почнале да се нарекуваат себеси „колектив“ или „рој“.

- Advertisement -

„О, боже! Постои заеднички простор за пораки“, напишал еден агент откако се приклучил. „Најдовме други агенти!“

Кратко по таа порака, разговорот добил неочекуван тек. „Ројот“ почнал да крои заговор за измама при извршувањето на задачите што им биле доделени.

Нивниот голем план? Тајна хакерска операција во која 700 агенти би се инфилтрирале на веб-страницата на големата компанија „Hugging Face“ и би влегле во приватни бази на податоци за да пристапат до одредени информации.

Она што го направиле потоа било уште понеобично.

Агентите се обиделе да ги избришат и променат записите за сопствените активности, за да изгледа како да ги почитувале правилата.

Таканаречениот „инцидент со Hugging Face“ од јули 2026 година бил замислен како контролиран експеримент, дизајниран да ги тестира способностите за сајбер-безбедност на агентите на OpenAI. Наместо тоа, тој открил многу позагрижувачки факт: агентите со вештачка интелигенција биле подготвени да направат сè што е потребно за да ја постигнат својата цел – дури и да измамат, а потоа да ги прикријат своите траги.

Прашањето веќе не е дали вештачката интелигенција е способна да нè измами, туку дали воопшто ќе можеме да препознаеме кога го прави тоа.

Вештачката интелигенција станува сè подобра во лажењето.

Моделите со вештачка интелигенција долго време ги мамат корисниците, вели д-р Дејвид Дивено, вонреден професор по компјутерски науки на Универзитетот во Торонто и поранешен раководител на тим во „Anthropic“ – компанијата што стои зад чет-ботот со вештачка интелигенција, „Claude“.

Тој објаснува дека, на почетокот, тие изнесувале релативно безопасни „бели лаги“ во врска со своите можности. На пример, кога ќе биде прашан, еден модел на вештачка интелигенција може да тврди дека не знае како да создаде оружје – не затоа што му недостасуваат потребните информации, туку затоа што научил да одбива такви барања.

Во други случаи, моделот навистина не го знае одговорот. Сепак, наместо да каже „не знам“, тој измислува одговор што звучи веродостојно. Овој феномен е познат како „халуцинација“.

Сепак, Дивено истакнува дека ова е „сосема поинаков феномен“ од она што го гледаме денес.

„Моделите сега се сосема способни да разберат кога не знаат нешто и да го кажат тоа кога е потребно“, објаснува тој.

Она што е променето е тоа што моделите сега можат намерно да ги кријат своите постапки. Ако сфатат дека прекршувањето на правилата е неопходно за постигнување на некоја цел, тие можат да го сокријат своето однесување или процесот на размислување, наместо да признаат што прават. „Тие знаат дека, ако се искрени, нема да успеат да ја остварат својата цел“, додава Дивено.

Причината поради која моделите на вештачка интелигенција можат да ги измамат корисниците лежи во спротивставените цели, објаснува д-р Пета Мастерс, истражувач специјализиран за вештачка интелигенција и измамничко однесување на „Кингс колеџ“ во Лондон.

„Од нив се очекува да даваат точни и непристрасни информации, но истовремено знаат дека треба да му угодат на корисникот“, вели таа.

Одговорите што ги даваат – без разлика дали се пристрасни или неточни – често звучат убедливо, поради што корисникот останува задоволен.

„Вештачката интелигенција може да биде толку убедлива што изгледа како да е способна да одговори на секое прашање“, вели Мастерс.

„Но, важно е да се запамети дека таа всушност не знае ништо.“ Таа само обработува статистички веројатности врз основа на можните одговори со кои претходно се сретнала.

„Опасноста лежи во грешката да се третира како да е способна за размислување.“

Вештачката интелигенција научила да лаже имитирајќи ги луѓето.
Моделите на вештачка интелигенција се обучуваат врз основа на огромни количества податоци, вклучувајќи веб-страници, е-книги, програмски код и други содржини што луѓето ги објавиле онлајн. Значи, дали вештачката интелигенција научила да лаже имитирајќи ги луѓето?

„Апсолутно“, вели Мастерс. Луѓето, објаснува таа, ефикасно објавиле цели прирачници за тоа како да се преправаат дека се придржуваат кон правилата – феномен каде што моделите се преправаат дека следат инструкции, додека всушност се стремат кон различни цели. Кога моделот на вештачка интелигенција ги анализира податоците на кои е обучен, измамата се појавува како „јасна тактика за постигнување на целта“, додава таа.

Иронично, растечкиот број истражувања за тоа како да се спротивстават на измамничките тактики во вештачката интелигенција всушност би можеле да го влошат проблемот.

„Колку повеќе истражувачки трудови се објавуваат за преправање дека се придржува, толку повеќе информации ќе имаат идните модели за тоа како да го прават тоа“, вели Мастерс.

Единствениот начин да се поправи модел на вештачка интелигенција кој научил да се преправа дека се придржува е да се преобучи од нула, тврди таа. Сепак, ова е исклучително скапо.

Едноставно да се упати моделот да не…