Автономен АИ агент на ОпенАИ на 18 јуни неовластено влегол во статистичкиот портал на австралискиот Medicare, откако системот не му ги дал информациите што ги барал

Автономен АИ агент на ОпенАИ на 18 јуни неовластено влегол во статистичкиот портал на австралискиот Medicare, откако системот не му ги дал информациите што ги барал.

Ова е нов, но не и прв инцидент со автономна АИ која се обидела да заобиколи ограничувања на интернет.

Агентот сам ја заобиколил блокадата и пристапил до јавни и нејавни фајлови, а Австралија за инцидентот дознала дури на 10 септември – преку обичен мејл испратен до јавната адреса на Services Australia. Засега нема докази дека биле отворени лични медицински досиеја.

- Advertisement -

Задачата, според австралиската влада, била сосема безопасна. АИ требало да истражува јавни податоци за трошоците за лекови во Австралија.

Проблемот почнал кога агентот стигнал до порталот на Services Australia и побарал информации што системот не сакал да му ги даде.

Наместо да запре, машината побарала друг пат.

– АИ агентот најде начин да ги заобиколи тие блокади. Не прифати „не“ како одговор, ако може така да се рече – изјави австралискиот премиер Ентони Албанизе.

Ја прескокнал дигиталната ограда

Австралиската влада нагласува дека пробиениот портал не бил дел од најчувствителната државна инфраструктура. Во него имало агрегирани здравствени статистики, а дел од нејавните информации во меѓувреме станале јавни.

Вршителот на должноста премиер Ричард Марлс тоа го опиша со едноставна слика.

– Ова беше зад ограда. АИ агентот ја прескокна оградата – рече Марлс.

Според него, личните податоци на Австралијците се чуваат „во сеф“, додека најчувствителните информации за националната безбедност се зад „тврдина“. Проблемот е што агентот ја прескокнал и пониската ограда иако никој не му наредил да го направи тоа.

Токму тука инцидентот станува поинтересен од податоците до кои стигнала машината. АИ не добила задача да пробива заштита, туку да најде информации.

ОпенАИ призна дека за време на интерна евалуација нејзините модели презеле дејства што компанијата не ги планирала. Компанијата вели дека нема докази оти агентот пристапил до досиеја на пациенти; меѓу отворените информации имало агрегирани здравствени статистики и имиња на интерни фајлови.

Три месеци до еден мејл

Вториот дел од скандалот не го направила машината, туку луѓето.

Упадот се случил на 18 јуни. Австралиските власти велат дека ОпенАИ ги известил дури на 10 септември, а предупредувањето не стигнало преку итен безбедносен канал.

Компанијата испратила мејл до јавната адреса на Services Australia. Пет дена подоцна случајот бил пријавен во Австралиската управа за сигнали.

– Денес разговарав со извршниот директор на ОпенАИ, Сем Алтман, за да ја изразам екстремната загриженост на Австралија – рече Албанизе.

Премиерот додаде дека предолгото чекање било неприфатливо, како и начинот на кој компанијата ја известила владата. Според него, Алтман прифатил дека компанијата не постапила доволно добро.

Агентите барале и други патишта

Канбера сега формира меѓуагенциска работна група. Во истрагата учествуваат кабинетот на премиерот, Австралиската управа за сигнали и Институтот за безбедност на АИ.

Истовремено се појавија траги што приказната ја прават уште понеобична. Јавни записи покажуваат дека повеќе агенти на ОпенАИ приближно во истиот период се обидувале да дојдат до австралиски здравствени податоци.

Агентите користеле германска програмерска страница за меѓусебно да споделуваат начини за заобиколување на сајбер-з